Gervigreind og hröð og hæg hugsun Þorsteinn Siglaugsson skrifar 28. nóvember 2023 20:01 Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net. Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Þorsteinn Siglaugsson Gervigreind Tækni Mest lesið Hættustig Gauti Kristmannsson Skoðun Hún var kölluð drusla Guðmunda G. Guðmundsdóttir Skoðun Tölum endilega íslensku, takk Ólafur Guðsteinn Kristjánsson Skoðun Yfirlýsing Hagsmunasamtaka brotaþola og Öfga Tanja M. Ísfjörð Magnúsdóttir,Ólöf Tara Harðardóttir,Hulda Hrund Guðrúnar Sigmundsdóttir,Guðný S. Bjarnadóttir Skoðun Les(mis)skilningur Miðflokksmanna Helgi Brynjarsson Skoðun Kennarinn sem breytti lífi þínu Þorbjörg Sigríður Gunnlaugsdóttir Skoðun Þegar kennarinn verður dómari Pawel Bartoszek Skoðun Hvað finnst þér? Bryndís Víglundsdóttir Skoðun Tímabært að stokka spilin og gefa upp á nýtt Maarten Haijer Skoðun Til fyrirmyndar? Sverrir Björnsson Skoðun Skoðun Skoðun Hættustig Gauti Kristmannsson skrifar Skoðun Minnkandi ábati stýrivaxta á verðbólgu Aron Heiðar Steinsson skrifar Skoðun Hún var kölluð drusla Guðmunda G. Guðmundsdóttir skrifar Skoðun Til fyrirmyndar? Sverrir Björnsson skrifar Skoðun Tölum endilega íslensku, takk Ólafur Guðsteinn Kristjánsson skrifar Skoðun Les(mis)skilningur Miðflokksmanna Helgi Brynjarsson skrifar Skoðun Kennarinn sem breytti lífi þínu Þorbjörg Sigríður Gunnlaugsdóttir skrifar Skoðun Tímabært að stokka spilin og gefa upp á nýtt Maarten Haijer skrifar Skoðun Cut The Crap! Davíð Bergmann skrifar Skoðun Hvað finnst þér? Bryndís Víglundsdóttir skrifar Skoðun Víðátta og margbreytni hins sjötta skilningarvits Matthildur Björnsdóttir skrifar Skoðun Þegar kennarinn verður dómari Pawel Bartoszek skrifar Skoðun Tíminn vinnur ekki með þeim Hjörtur J. Guðmundsson skrifar Skoðun Frestun á afgreiðslu Samgönguáætlunar er fagnaðarefni Björn Bjarki Þorsteinsson skrifar Skoðun Tvíeggja tækni: Hvernig má nýta stafræna tækni í kennslu? Halldóra Lillý Jóhannsdóttir skrifar Skoðun Blekking goðsagna Matthildur Björnsdóttir skrifar Skoðun Í sambandi við Suðurnesin Steinunn Þorsteinsdóttir skrifar Skoðun Fyrirhyggja er besta vörnin - vegna CrowdStrike atviksins 19. júlí 2024 Arnar Freyr Guðmundsson skrifar Skoðun 466 milljarðir í vasa norskra eldisrisa Gunnlaugur Stefánsson skrifar Skoðun Opið bréf til ráðherra Kristján Hreinsson skrifar Skoðun Flestir barðir til bana með steini eða skotnir í tætlur með haglabyssu Ole Anton Bieltvedt skrifar Skoðun Eflum Mjódd sem miðstöð almenningssamgangna fyrir landið allt Sara Björg Sigurðardóttir skrifar Skoðun Utanbæjarmaður eða útlendingur… stjórnaðu þér Arnrún María Magnúsdóttir skrifar Skoðun Velur þú að loka barnið þitt inni í herbergi með barnaníðingi? Álfhildur Leifsdóttir skrifar Skoðun Samgöngur - Ekki eftir neinu að bíða Hafsteinn Gunnarsson skrifar Skoðun Á undan áætlun í ríkisfjármálum Bjarni Benediktsson skrifar Skoðun Framtíðin? Reynir Böðvarsson skrifar Skoðun Verndum Yazan og Barnasáttmálann Askur Hrafn Hannesson,Kristbjörg Arna E. Þorvaldsdóttir skrifar Skoðun Fólkið sem ætti að hlusta meira Diljá Mist Einarsdóttir skrifar Skoðun Samgöngur - Ekki eftir neinu að bíða Hafsteinn Gunnarsson skrifar Sjá meira
Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net.
Yfirlýsing Hagsmunasamtaka brotaþola og Öfga Tanja M. Ísfjörð Magnúsdóttir,Ólöf Tara Harðardóttir,Hulda Hrund Guðrúnar Sigmundsdóttir,Guðný S. Bjarnadóttir Skoðun
Skoðun Tvíeggja tækni: Hvernig má nýta stafræna tækni í kennslu? Halldóra Lillý Jóhannsdóttir skrifar
Skoðun Fyrirhyggja er besta vörnin - vegna CrowdStrike atviksins 19. júlí 2024 Arnar Freyr Guðmundsson skrifar
Skoðun Flestir barðir til bana með steini eða skotnir í tætlur með haglabyssu Ole Anton Bieltvedt skrifar
Skoðun Eflum Mjódd sem miðstöð almenningssamgangna fyrir landið allt Sara Björg Sigurðardóttir skrifar
Skoðun Velur þú að loka barnið þitt inni í herbergi með barnaníðingi? Álfhildur Leifsdóttir skrifar
Skoðun Verndum Yazan og Barnasáttmálann Askur Hrafn Hannesson,Kristbjörg Arna E. Þorvaldsdóttir skrifar
Yfirlýsing Hagsmunasamtaka brotaþola og Öfga Tanja M. Ísfjörð Magnúsdóttir,Ólöf Tara Harðardóttir,Hulda Hrund Guðrúnar Sigmundsdóttir,Guðný S. Bjarnadóttir Skoðun