Gervigreind og hröð og hæg hugsun Þorsteinn Siglaugsson skrifar 28. nóvember 2023 20:01 Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net. Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Þorsteinn Siglaugsson Gervigreind Tækni Mest lesið Háskólinn og rektorskjörið Gyða Margrét Pétursdóttir ,Þorgerður Jennýjardóttir Einarsdóttir Skoðun Fékk hann ekki minnisblaðið? Hjörtur J Guðmundsson Skoðun Betra og skilvirkara fjármálakerfi Benedikt Gíslason Skoðun Þegar heiftin nær tökum á hrútakofanum Heimir Már Pétursson Skoðun Geðræni sjúkdómurinn sem gleymist að tala um Stefán Guðbrandsson Skoðun Áskorun til atvinnuvegaráðherra Björn Ólafsson Skoðun Halldór 15.02.2025 Halldór Sérlög til verndar innflytjendum? Margrét Ágústa Sigurðardóttir Skoðun Hvammsvirkjun – frumhlaup og gullhúðun Mörður Árnason Skoðun Skattahækkanir, miðstýring og ESB-þráhyggja Anton Guðmundsson Skoðun Skoðun Skoðun Betra og skilvirkara fjármálakerfi Benedikt Gíslason skrifar Skoðun Háskólinn og rektorskjörið Gyða Margrét Pétursdóttir ,Þorgerður Jennýjardóttir Einarsdóttir skrifar Skoðun Fékk hann ekki minnisblaðið? Hjörtur J Guðmundsson skrifar Skoðun Áskorun til atvinnuvegaráðherra Björn Ólafsson skrifar Skoðun Skattahækkanir, miðstýring og ESB-þráhyggja Anton Guðmundsson skrifar Skoðun Sérlög til verndar innflytjendum? Margrét Ágústa Sigurðardóttir skrifar Skoðun Höldum yngri þingmönnum aðskildum frá hinum eldri ! Júlíus Valsson skrifar Skoðun Hvammsvirkjun – frumhlaup og gullhúðun Mörður Árnason skrifar Skoðun Geðræni sjúkdómurinn sem gleymist að tala um Stefán Guðbrandsson skrifar Skoðun Aukinn veikindaréttur – aukið jafnrétti kynjanna – fyrir félagsfólk VR Þorsteinn Skúli Sveinsson skrifar Skoðun Þegar heiftin nær tökum á hrútakofanum Heimir Már Pétursson skrifar Skoðun Verður dánaraðstoð leyfð í Danmörku í náinni framtíð? Bjarni Jónsson skrifar Skoðun Flugvöllur okkar allra! Lilja Rafney Magnúsdóttir skrifar Skoðun Svar við rangfærslum Félags atvinnurekenda um tollamál Erna Bjarnadóttir skrifar Skoðun Við þurfum að ræða um Evrópusambandið Kristján Reykjalín Vigfússon skrifar Skoðun Sannleikurinn um undirbúning útlendingafrumvarpsins Guðrún Hafsteinsdóttir skrifar Skoðun Hvernig bætum við stafræna umgjörð heilbrigðiskerfisins? Arna Harðardóttir skrifar Skoðun Þegar raunveruleikinn er forritaður Halldóra Lillý Jóhannsdóttir skrifar Skoðun Hvernig byggjum við framtíð matvælaiðnaðar á Íslandi? Oddur Már Gunnarsson,Salvör Jónsdóttir skrifar Skoðun Á Sjálfstæðisflokkurinn sér viðreisnar von? Ole Anton Bieltvedt skrifar Skoðun Valentínus Árni Már Jensson skrifar Skoðun Velferð framar verðstöðugleika: Hvers vegna lífskjör ættu að vera aðalatriðið Eggert Sigurbergsson skrifar Skoðun Barnavernd í brennidepli! Merki um öryggi – Signs of Safety Gyða Hjartardóttir skrifar Skoðun Kolbikasvört staða María Rut Kristinsdóttir skrifar Skoðun Faglegt og jákvætt sérfræðiálit Skipulagsstofnunar um Coda Terminal Edda Sif Pind Aradóttir skrifar Skoðun Ekkert um okkur án okkar Alma Ýr Ingólfsdóttir skrifar Skoðun One way Ticket á Litla-Hraun í framtíðinni! Davíð Bergmann skrifar Skoðun Rauðsokkur í Efra-Breiðholti Edith Oddsteinsdóttir skrifar Skoðun Jafningjafræðsla um stafrænt ofbeldi Hjalti Ómar Ágústsson skrifar Skoðun Hugtakinu almannaheill snúið á haus Björg Eva Erlendsdóttir,Þorgerður María Þorbjarnardóttir,Árni Finnsson ,Snæbjörn Guðmundsson,Elvar Örn Friðriksso,Friðleifur E. Guðmundsson,Snorri Hallgrímsson,Sigþrúður Jónsdóttir skrifar Sjá meira
Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net.
Skoðun Háskólinn og rektorskjörið Gyða Margrét Pétursdóttir ,Þorgerður Jennýjardóttir Einarsdóttir skrifar
Skoðun Aukinn veikindaréttur – aukið jafnrétti kynjanna – fyrir félagsfólk VR Þorsteinn Skúli Sveinsson skrifar
Skoðun Hvernig byggjum við framtíð matvælaiðnaðar á Íslandi? Oddur Már Gunnarsson,Salvör Jónsdóttir skrifar
Skoðun Velferð framar verðstöðugleika: Hvers vegna lífskjör ættu að vera aðalatriðið Eggert Sigurbergsson skrifar
Skoðun Faglegt og jákvætt sérfræðiálit Skipulagsstofnunar um Coda Terminal Edda Sif Pind Aradóttir skrifar
Skoðun Hugtakinu almannaheill snúið á haus Björg Eva Erlendsdóttir,Þorgerður María Þorbjarnardóttir,Árni Finnsson ,Snæbjörn Guðmundsson,Elvar Örn Friðriksso,Friðleifur E. Guðmundsson,Snorri Hallgrímsson,Sigþrúður Jónsdóttir skrifar