Gervigreind og hröð og hæg hugsun Þorsteinn Siglaugsson skrifar 28. nóvember 2023 20:01 Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net. Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Þorsteinn Siglaugsson Gervigreind Tækni Mest lesið „Við andlát manns lýkur skattskyldu hans“ Þórður Gunnarsson Skoðun Dýrkeyptur aðgangur Stella Guðmundsdóttir Skoðun Íslenskufræðingurinn Sigmundur Davíð Hákon Darri Egilsson Skoðun Aðgangur bannaður Áslaug Arna Sigurbjörnsdóttir Skoðun Hvers vegna hefur frammistöðu íslenskra nemenda í PISA farið hrakandi? Jón Páll Haraldsson,Linda Heiðarsdóttir,Ómar Örn Magnússon Skoðun Ævintýralegar eftiráskýringar Hildur Sverrisdóttir Skoðun Það er verið að ljúga að okkur Hildur Þórðardóttir Skoðun Loftslagskvíði Sjálfstæðisflokksins Gunnar Bragi Sveinsson Skoðun Gervigóðmennska fyrir almannafé Kári Allansson Skoðun Við þurfum þingmann eins og Ágúst Bjarna Valdimar Víðisson Skoðun Skoðun Skoðun Handleiðsla og vellíðan í starfi Sveindís Anna Jóhannsdóttir skrifar Skoðun Eldgos og innviðir: Tryggjum öryggi Suðurnesja Halla Hrund Logadóttir skrifar Skoðun Er aukin einkavæðing lausnin? Reynir Böðvarsson skrifar Skoðun Samfélag á krossgötum Finnbjörn A. Hermannsson,Sonja Ýr Þorbergsdóttir skrifar Skoðun Hvað er vandamálið? Alexandra Briem skrifar Skoðun Au pair fyrirkomulagið – barn síns tíma? Hlöðver Skúli Hákonarson skrifar Skoðun Fontur – hiti þrjú stig Stefán Steingrímur Bergsson skrifar Skoðun Bankinn gefur, bankinn tekur Breki Karlsson skrifar Skoðun Hægt og hljótt Dofri Hermannsson skrifar Skoðun Kennaraverkfall – sparka í dekkin eða setja meira bensín á bílinn? Melkorka Mjöll Kristinsdóttir skrifar Skoðun Gervigóðmennska fyrir almannafé Kári Allansson skrifar Skoðun Góður granni, gulli betri! Jóna Bjarnadóttir skrifar Skoðun Frelsi er alls konar Jón Óskar Sólnes skrifar Skoðun Betra plan í ríkisfjármálum Sanna Magdalena Mörtudóttir skrifar Skoðun Íslenskufræðingurinn Sigmundur Davíð Hákon Darri Egilsson skrifar Skoðun Dýrkeyptur aðgangur Stella Guðmundsdóttir skrifar Skoðun Þarf Alþingi að vera í óvissu? Haukur Arnþórsson skrifar Skoðun Stöndum með einyrkjum og sjálfstætt starfandi Kristján Þórður Snæbjarnarson skrifar Skoðun Ætla Íslendingar að standa vörð um orkuauðlindir sínar? Ágústa Ágústsdóttir skrifar Skoðun Evrópa og sjálfstæði Íslands Anna Sofía Kristjánsdóttir skrifar Skoðun Heilnæmt samfélag, betri lífskjör og jöfn tækifæri fyrir öll Unnur Guðmundsdóttir skrifar Skoðun Mölunarverksmiðja eða umhverfisvæn matvælaframleiðsla Ása Berglind Hjálmarsdóttir skrifar Skoðun Lifað með reisn - Frá starfslokum til æviloka Þorsteinn Sæmundsson skrifar Skoðun Viðreisn, evran og Finnland Eggert Sigurbergsson skrifar Skoðun Fleiri staðreyndir um jafnlaunavottun – íþyngjandi og kostnaðarsamt regluverk Gunnar Ármannsson skrifar Skoðun Við þurfum þingmann eins og Ágúst Bjarna Valdimar Víðisson skrifar Skoðun Sagnaarfur Biblíunnar – Heildræn sýn á sköpunina Sigurvin Lárus Jónsson skrifar Skoðun Hvers vegna hefur frammistöðu íslenskra nemenda í PISA farið hrakandi? Jón Páll Haraldsson,Linda Heiðarsdóttir,Ómar Örn Magnússon skrifar Skoðun Iðkum nægjusemi, nýtum náttúruna Borghildur Gunnarsdóttir,Ósk Kristinsdóttir skrifar Skoðun Hægt með krónunni? Hjörtur J. Guðmundsson skrifar Sjá meira
Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net.
Hvers vegna hefur frammistöðu íslenskra nemenda í PISA farið hrakandi? Jón Páll Haraldsson,Linda Heiðarsdóttir,Ómar Örn Magnússon Skoðun
Skoðun Kennaraverkfall – sparka í dekkin eða setja meira bensín á bílinn? Melkorka Mjöll Kristinsdóttir skrifar
Skoðun Mölunarverksmiðja eða umhverfisvæn matvælaframleiðsla Ása Berglind Hjálmarsdóttir skrifar
Skoðun Fleiri staðreyndir um jafnlaunavottun – íþyngjandi og kostnaðarsamt regluverk Gunnar Ármannsson skrifar
Skoðun Hvers vegna hefur frammistöðu íslenskra nemenda í PISA farið hrakandi? Jón Páll Haraldsson,Linda Heiðarsdóttir,Ómar Örn Magnússon skrifar
Hvers vegna hefur frammistöðu íslenskra nemenda í PISA farið hrakandi? Jón Páll Haraldsson,Linda Heiðarsdóttir,Ómar Örn Magnússon Skoðun