Hætti hjá Google til að vara við hættu af gervigreind Kjartan Kjartansson skrifar 2. maí 2023 11:55 Spjallyrki sem stór tæknifyrirtæki hafa afhjúpað nýlega þykja sláandi góð í að framleiða texta. Sumir óttast nú uppgang gervigreindar og telja hana jafnvel tilvistarlega ógn við mannkynið. Vísir/Getty Frumkvöðull í gervigreind segist hafa sagt starfi sínu hjá tæknirisanum Google lausu til þess að geta tjáð sig óheft um þær hættur sem hann telur að fylgi tækninni. Hann segist hafa gert sér grein fyrir að tölvur gætu orðið greindari en menn mun fyrr en hann taldi. Google er eitt þeirra tæknifyrirtækja sem þróa gervigreind. Tækninni virðist hafa fleygt fram á síðustu misserum sem hefur skotið ýmsum skelk í brjóst sem óttast að gervigreind geti verið hættuleg mannkyninu. Sérfræðingar á sviðinu eru í hópi þeirra sem mæla með því að menn gangi hægt inn um gleðinnar dyr í þessum efnum. Geoffrey Hinton, sem New York Times lýsir sem guðföður gervigreindar, hefur unnið að þróun gervigreindar eins og spjallyrkisins ChatGPT undanfarna hálfa öld. Hann tilkynnti í Twitter-færslu að hann hefði sagt upp hjá Google eftir meira en áratugsstarf gagngert til þess að vara við hættunni af gervigreind. „Ég hætti til þess að ég gæti rætt um hættuna við gervigreind án þess að taka tillit til hvaða áhrif það hefði á Google,“ sagði Hinton í tísti sínu. Hinton, sem er 75 ára gamall, segir að hann hafi upphaflega talið spjallyrki Google, Microsoft og OpenAI kröftug máltæknitól sem stæðust þó ekki mönnum snúning í tungumálum. Framfarir í tækninni á undanförnum mánuðum hafi valdið honum sinnaskiptum. „Kannski er það sem gerist í þessum kerfum í raun mun betra en það sem gerist inni í heilanum,“ segir Hinton við New York Times. Drápsvélmenni gætu orðið að veruleika Sérstaklega óttast Hinton að yfir internetið flæði falsaðar myndir, myndbönd og texti sem framleiddur er með gervigreind. Meðalmaðurinn eigi ekki eftir að geta áttað sig á hvað er satt og hvað er logið lengur. Tækninni fleygi áfram í harðri samkeppni tæknirisanna sem eigi í nokkurs konar vígbúnaðarkapphlaupi sem engin leið sér að stoppa. Einnig hefur Hinton áhyggjur af því að gervigreind eigi eftir að umturna vinnumarkaðinum með tíð og tíma. Tækni geti leyst af hólmi fjölda fólks. Í fjarlægari framtíð er Hinton hræddur við að gervigreind ógni tilvist mannkynsins sjálfs vegna þess að hún öðlist oft óvænta hegðun þegar hún er mötuð á stórum gagnabönkum. Þegar einstaklingar og fyrirtæki leyfa gervigreind að skrifa sinn eiginn tölvukóða og jafnvel keyra hann sjálfri gæti sá dagur runnið upp á að drápsvélmenni úr distópískum vísindaskáldsögum verði að raunveruleika. „Sú hugmynd að þetta dót gæti í raun orðið gáfaðra en menn, sumir trúðu því. Flestir töldu að það væri langt í það. Ég hélt að það væri langt í það. ÉG hélt að það væru þrjátíu eða fimmtíu ár eða jafnvel lengra. Ég trúi því augljóslega ekki lengur,“ segir Hinton. Bandaríkin Tækni Gervigreind Google Mest lesið Flytur fyrirtækin vegna löggjafar um trans börn Viðskipti erlent „Það er verið að ríkisvæða húsnæðismarkaðinn“ Viðskipti innlent Leggja upp laupana í Lundúnum Viðskipti innlent Níu holu golfvöllur á gamalli landnámsjörð Samstarf Fasteignakaup fjárfesta vísbending um að fasteignaverð haldi áfram að hækka Viðskipti innlent Dýr smjörvi á Egilsstöðum vekur mikla athygli Neytendur Ævintýralegt líf: Fjárfestirinn bankaði á gluggann á garðkofanum þar sem hann bjó Atvinnulíf Ólöglegt bleikiefni í hveitinu Neytendur Annað tilboð borist í Skagann 3X Viðskipti innlent Greiðsluáskorun Samstarf Fleiri fréttir Flytur fyrirtækin vegna löggjafar um trans börn Boeing samþykkir að játa sök og greiða 34 milljarða sekt Kjarnorkubréf Einsteins til sölu Nvidia verðmætasta skráða fyrirtæki heims Ekki lengur hægt að sjá hvað aðrir „læka“ Lætur mál gegn OpenAI niður falla Danir höndla ekki kóresku pakkanúðlurnar ChatGPT og endurbætt Siri væntanlegar nýjungar Apple Lækkuðu stýrivexti í Evrópu í fyrsta sinn síðan 2019 Írskur matsölustaður hafði betur í vörumerkjadeilum við McDonalds Bein útsending: Fjórða flugferð Starship Prufa að neyða notendur til að horfa á auglýsingar Vangaveltur um að vinkona Ásdísar hafi verið myrt og hent í sjóinn Sjá meira
Google er eitt þeirra tæknifyrirtækja sem þróa gervigreind. Tækninni virðist hafa fleygt fram á síðustu misserum sem hefur skotið ýmsum skelk í brjóst sem óttast að gervigreind geti verið hættuleg mannkyninu. Sérfræðingar á sviðinu eru í hópi þeirra sem mæla með því að menn gangi hægt inn um gleðinnar dyr í þessum efnum. Geoffrey Hinton, sem New York Times lýsir sem guðföður gervigreindar, hefur unnið að þróun gervigreindar eins og spjallyrkisins ChatGPT undanfarna hálfa öld. Hann tilkynnti í Twitter-færslu að hann hefði sagt upp hjá Google eftir meira en áratugsstarf gagngert til þess að vara við hættunni af gervigreind. „Ég hætti til þess að ég gæti rætt um hættuna við gervigreind án þess að taka tillit til hvaða áhrif það hefði á Google,“ sagði Hinton í tísti sínu. Hinton, sem er 75 ára gamall, segir að hann hafi upphaflega talið spjallyrki Google, Microsoft og OpenAI kröftug máltæknitól sem stæðust þó ekki mönnum snúning í tungumálum. Framfarir í tækninni á undanförnum mánuðum hafi valdið honum sinnaskiptum. „Kannski er það sem gerist í þessum kerfum í raun mun betra en það sem gerist inni í heilanum,“ segir Hinton við New York Times. Drápsvélmenni gætu orðið að veruleika Sérstaklega óttast Hinton að yfir internetið flæði falsaðar myndir, myndbönd og texti sem framleiddur er með gervigreind. Meðalmaðurinn eigi ekki eftir að geta áttað sig á hvað er satt og hvað er logið lengur. Tækninni fleygi áfram í harðri samkeppni tæknirisanna sem eigi í nokkurs konar vígbúnaðarkapphlaupi sem engin leið sér að stoppa. Einnig hefur Hinton áhyggjur af því að gervigreind eigi eftir að umturna vinnumarkaðinum með tíð og tíma. Tækni geti leyst af hólmi fjölda fólks. Í fjarlægari framtíð er Hinton hræddur við að gervigreind ógni tilvist mannkynsins sjálfs vegna þess að hún öðlist oft óvænta hegðun þegar hún er mötuð á stórum gagnabönkum. Þegar einstaklingar og fyrirtæki leyfa gervigreind að skrifa sinn eiginn tölvukóða og jafnvel keyra hann sjálfri gæti sá dagur runnið upp á að drápsvélmenni úr distópískum vísindaskáldsögum verði að raunveruleika. „Sú hugmynd að þetta dót gæti í raun orðið gáfaðra en menn, sumir trúðu því. Flestir töldu að það væri langt í það. Ég hélt að það væri langt í það. ÉG hélt að það væru þrjátíu eða fimmtíu ár eða jafnvel lengra. Ég trúi því augljóslega ekki lengur,“ segir Hinton.
Bandaríkin Tækni Gervigreind Google Mest lesið Flytur fyrirtækin vegna löggjafar um trans börn Viðskipti erlent „Það er verið að ríkisvæða húsnæðismarkaðinn“ Viðskipti innlent Leggja upp laupana í Lundúnum Viðskipti innlent Níu holu golfvöllur á gamalli landnámsjörð Samstarf Fasteignakaup fjárfesta vísbending um að fasteignaverð haldi áfram að hækka Viðskipti innlent Dýr smjörvi á Egilsstöðum vekur mikla athygli Neytendur Ævintýralegt líf: Fjárfestirinn bankaði á gluggann á garðkofanum þar sem hann bjó Atvinnulíf Ólöglegt bleikiefni í hveitinu Neytendur Annað tilboð borist í Skagann 3X Viðskipti innlent Greiðsluáskorun Samstarf Fleiri fréttir Flytur fyrirtækin vegna löggjafar um trans börn Boeing samþykkir að játa sök og greiða 34 milljarða sekt Kjarnorkubréf Einsteins til sölu Nvidia verðmætasta skráða fyrirtæki heims Ekki lengur hægt að sjá hvað aðrir „læka“ Lætur mál gegn OpenAI niður falla Danir höndla ekki kóresku pakkanúðlurnar ChatGPT og endurbætt Siri væntanlegar nýjungar Apple Lækkuðu stýrivexti í Evrópu í fyrsta sinn síðan 2019 Írskur matsölustaður hafði betur í vörumerkjadeilum við McDonalds Bein útsending: Fjórða flugferð Starship Prufa að neyða notendur til að horfa á auglýsingar Vangaveltur um að vinkona Ásdísar hafi verið myrt og hent í sjóinn Sjá meira