Seuraava artikkeli auttaa sinua: Clash of the Titans: GPT-4 Sparks AI Civil War
Bill Gates kutsui GPT:tä tekniikan tärkeimmäksi edistykseksi sitten vuoden 1980. Viime kuussa OpenAI julkaisi GPT-4:n, tähän mennessä edistyneimmän suuren kielimallin. Monet uskovat, että GPT-4 on käännekohta tekoälylle (AGI), joka on suurempi tavoite, jonka GPT-mallien luoja OpenAI on helvetin taipuvainen saavuttamaan.
Tekoälyyhteisön asiantuntijat ovat kuitenkin ilmaisseet huolensa alan nopeasta ja merkittävästä kehityksestä viime kuukausina. Tässä valossa joukko tekoälyasiantuntijoita ja kriitikkoja, joihin kuuluvat muun muassa teknologian raskaat sarjat kuten Elon Musk, Gary Marcus ja Steve Wozniak, ovat allekirjoittaneet avoimen kirjeen, jossa kaikki tekoälylaboratoriot ovat pyytäneet välittömästi keskeyttämään tekoälyjärjestelmien koulutus. tehokkaampi kuin GPT-4 vähintään kuuden kuukauden ajan.
Kirje, joka on kerännyt tähän mennessä yli 1 100 allekirjoitusta, väittää, että ilman asianmukaisia suojatoimia ja valvontaa ja tasapainoa, tekoälyn ennennäkemättömät edistysaskeleet voivat muodostaa eksistentiaalisen uhan ihmiskunnalle. ”Tämän tauon tulee olla julkinen ja todennettavissa, ja sen tulee sisältää kaikki keskeiset toimijat. Jos tällaista taukoa ei voida toteuttaa nopeasti, hallitusten tulisi puuttua asiaan ja asettaa moratorio, siinä todetaan.
📢 We're calling on AI labs to temporarily pause training powerful models!
Join FLI's call alongside Yoshua Bengio, @stevewoz, @harari_yuval, @elonmusk, @GaryMarcus & over a 1000 others who've signed: https://t.co/3rJBjDXapc
A short 🧵on why we're calling for this – (1/8)
— Future of Life Institute (@FLIxrisk) March 29, 2023
Kaikki yhteisön jäsenet eivät kuitenkaan ole samaa mieltä avoimen kirjeen kanssa.
Tekoälytutkimuksen pysäyttämisestä
Andrew Ng, Landing AI:n perustaja ja toimitusjohtaja, kutsui sitä kauheaksi ideaksi. Hän uskoo, että teknologialla on jo vaikutusta koulutukseen, terveydenhuoltoon ja ruokaan, mikä puolestaan auttaa monia ihmisiä.
GPT-4:llä on todellakin hämmästyttäviä käyttötapauksia. Intiassa tekniikkaa on käytetty KissanGPT:n rakentamiseen, chatbotiin, joka auttaa maanviljelijöitä ratkaisemaan maatalouskysymyksiä. Äskettäin koiranomistaja käytti GPT-4:ää pelastaakseen koiransa henkensä.
“Matriisikertoimien kieltäminen kuudeksi kuukaudeksi ei ole ratkaisu tekoälyn mahdollisesti aiheuttamiin vaaroihin, vaikka valtavat edut jätetään huomiotta. Kuten minkä tahansa tekniikan kanssa, uskon ihmiskunnan kykyyn omaksua myönteisiä etuja samalla kun se keksii turvakaiteet. Edistystä ei tarvitse pysäyttää, NVIDIA:n tekoälytutkimuksen vanhempi johtaja Anima Anandkumar sanoi twiitissä.
Samoin Metan johtava tekoälytutkija Yann LeCun, joka on arvostellut teknologiaa, on myös pidättäytynyt allekirjoittamasta avointa kirjettä. Twiitissä LeCun paljasti, että hän on eri mieltä liikkeen koko lähtökohdasta.
Vuosi on 1440 ja katolinen kirkko on vaatinut painokoneen ja irtaimen kirjaimen käytölle kuuden kuukauden moratoriota.
Kuvittele, mitä voisi tapahtua, jos tavalliset ihmiset pääsevät käsiksi kirjoihin!
He voisivat lukea Raamattua itse ja yhteiskunta tuhoutuisi.
– Yann LeCun (@ylecun), 30. maaliskuuta 2023
Lisäksi jotkut ovat väittäneet, että avoin kirje edistää tekoälyä ja sen muutospotentiaalia yritysmaailmassa koskevaa nykyistä hypeä. Washingtonin yliopiston professori Emily M Bender uskoo, että kirje auttaa vain teknologiakehittäjiä markkinoimaan tuotteitaan.
“Tämä avoin kirje – ironisesti, mutta ei yllättäen – ruokkii tekoälyhypeä entisestään ja vaikeuttaa todellisten, jo esiintyvien tekoälyhaittojen torjumista”, Princetonin yliopiston tietojenkäsittelytieteen professori Arvind Narayanan sanoi.
Muita avoimeen kirjeeseen liittyviä ongelmia
Suoran tauon painamisen lisäksi avoin kirje herättää kysymyksen: Pitäisikö meidän automatisoida kaikki työt, myös täyttävät? Narayanan huomauttaa, että ajatus siitä, että LLM:t korvaavat pian ihmiset, on täysin naurettava. “Tietenkin sillä on vaikutuksia työvoimaan, ja meidän pitäisi suunnitella sitä”, hän sanoi.
Vaikka tekoäly voi korvata joitain työpaikkoja, se ei välttämättä pidä paikkaansa LLM:iden nykyisessä tilassa. Tämä johtuu siitä, että nämä mallit tekevät upeaa työtä arvaaessaan seuraavan mahdollisen sanan lauseessa, mutta ne eivät kuitenkaan ymmärrä kontekstia.
Parhaimmillaan LLM:t voisivat toimia arvokkaina apuvälineinä eri ammateissa. Esimerkiksi lääkärit voivat käyttää niitä auttamaan diagnoosien tekemisessä. Ne eivät kuitenkaan voi todella korvata lääkäreiden asiantuntemusta ja arvostelukykyä.
Lisäksi kirje herättää myös kysymyksen: Pitäisikö meidän ottaa riski sivilisaatiomme hallinnan menettämisestä? Tämä huolenaihe saattaa tuntua epätodennäköiseltä, koska se merkitsee apokalyptistä tai Tuomiopäivä-kaltainen skenaario, jota kuvataan usein tieteiselokuvissa.
Jotta se tapahtuisi, tekoälyn on saavutettava superälykkyys merkittävällä arvolla, mutta asiantuntijat, joista osa on allekirjoittanut kirjeen, ovat sanoneet, että LLM:t eivät välttämättä johda AGI:hen. “Valmiuksien ja eksistentiaalisen riskin liioitteleminen johtaa todennäköisesti mallien lukitsemiseen vieläkin enemmän, mikä vaikeuttaa riskien hallintaa”, Narayanan sanoi.
Mitä ajattelemme
Epäilemättä tekoälyssä tapahtuvat nopeat innovaatiot ovat yhtä aikaa jännittäviä ja melko pelottavia. Lisäksi monet suuret teknologiayritykset, jotka ovat hajottaneet vastuulliset tekoälytiiminsä ja kilpailevat julkaisusta tekoälymalleja vähäisemmällä testauksella ja innovatiivisia paineita tutkijoille, voivat olla tappava cocktail koko maailmalle.
Tästä syystä uskomme, että tekoälyn kehittäminen ja käyttöönotto tapahtuu vastuullisesti ja eettisesti ja että allekirjoittajien aikeet ovat samat. Avoin kirje oli kuitenkin huonosti laadittu, ja siinä oli sopimatonta sanavalintaa.
Lue lisää: AI voi muuttua pelottavammaksi, hallitusten on kesytettävä se ajoissa
Kirjeessä ei myöskään täsmennetä riittävästi riskejä, jotka liittyvät tekoälytekniikan nykytilaan. Kehotus keskeyttää tekoälytutkimus välittömästi on myös kiistanalainen. Siitä huolimatta laajempi keskustelu tekoälyn eettisestä käytöstä kehittäjien ja päättäjien välillä on tervetullut askel.
