Hætti hjá Google til að vara við hættu af gervigreind

Kjartan Kjartansson skrifar 2. maí 2023 11:55

Spjallyrki sem stór tæknifyrirtæki hafa afhjúpað nýlega þykja sláandi góð í að framleiða texta. Sumir óttast nú uppgang gervigreindar og telja hana jafnvel tilvistarlega ógn við mannkynið. Vísir/Getty

Frumkvöðull í gervigreind segist hafa sagt starfi sínu hjá tæknirisanum Google lausu til þess að geta tjáð sig óheft um þær hættur sem hann telur að fylgi tækninni. Hann segist hafa gert sér grein fyrir að tölvur gætu orðið greindari en menn mun fyrr en hann taldi.

Google er eitt þeirra tæknifyrirtækja sem þróa gervigreind. Tækninni virðist hafa fleygt fram á síðustu misserum sem hefur skotið ýmsum skelk í brjóst sem óttast að gervigreind geti verið hættuleg mannkyninu. Sérfræðingar á sviðinu eru í hópi þeirra sem mæla með því að menn gangi hægt inn um gleðinnar dyr í þessum efnum.

Geoffrey Hinton, sem New York Times lýsir sem guðföður gervigreindar, hefur unnið að þróun gervigreindar eins og spjallyrkisins ChatGPT undanfarna hálfa öld. Hann tilkynnti í Twitter-færslu að hann hefði sagt upp hjá Google eftir meira en áratugsstarf gagngert til þess að vara við hættunni af gervigreind.

„Ég hætti til þess að ég gæti rætt um hættuna við gervigreind án þess að taka tillit til hvaða áhrif það hefði á Google,“ sagði Hinton í tísti sínu.

Hinton, sem er 75 ára gamall, segir að hann hafi upphaflega talið spjallyrki Google, Microsoft og OpenAI kröftug máltæknitól sem stæðust þó ekki mönnum snúning í tungumálum. Framfarir í tækninni á undanförnum mánuðum hafi valdið honum sinnaskiptum.

„Kannski er það sem gerist í þessum kerfum í raun mun betra en það sem gerist inni í heilanum,“ segir Hinton við New York Times.

Drápsvélmenni gætu orðið að veruleika

Sérstaklega óttast Hinton að yfir internetið flæði falsaðar myndir, myndbönd og texti sem framleiddur er með gervigreind. Meðalmaðurinn eigi ekki eftir að geta áttað sig á hvað er satt og hvað er logið lengur. Tækninni fleygi áfram í harðri samkeppni tæknirisanna sem eigi í nokkurs konar vígbúnaðarkapphlaupi sem engin leið sér að stoppa.

Einnig hefur Hinton áhyggjur af því að gervigreind eigi eftir að umturna vinnumarkaðinum með tíð og tíma. Tækni geti leyst af hólmi fjölda fólks.

Í fjarlægari framtíð er Hinton hræddur við að gervigreind ógni tilvist mannkynsins sjálfs vegna þess að hún öðlist oft óvænta hegðun þegar hún er mötuð á stórum gagnabönkum. Þegar einstaklingar og fyrirtæki leyfa gervigreind að skrifa sinn eiginn tölvukóða og jafnvel keyra hann sjálfri gæti sá dagur runnið upp á að drápsvélmenni úr distópískum vísindaskáldsögum verði að raunveruleika.

„Sú hugmynd að þetta dót gæti í raun orðið gáfaðra en menn, sumir trúðu því. Flestir töldu að það væri langt í það. Ég hélt að það væri langt í það. ÉG hélt að það væru þrjátíu eða fimmtíu ár eða jafnvel lengra. Ég trúi því augljóslega ekki lengur,“ segir Hinton.

Bandaríkin Tækni Gervigreind Google