Seuraava artikkeli auttaa sinua: ChatGPT-laajennukset, seuraava suuri katastrofi tekeillä
Kun ChatGPT käynnistettiin, monet käyttäjät kiistivät sen tosiasian, että se tuotti vastauksia vain harjoitustietoihinsa Internetin käytön sijaan. Nyt OpenAI on ilmoittanut julkaisevansa ChatGPT-laajennukset, jotka avaavat netscapen tälle alati nälkäiselle LLM:lle.
Uusi ChatGPT, joka toimii GPT-4:llä, pystyy nyt soittamaan API-kutsuja eri palveluihin, lisäämällä sen toimivuutta. OpenAI:n mukaan nämä työkalut on “suunniteltu erityisesti kielimalleille, joiden ydinperiaatteena on turvallisuus”, mutta todellisuudessa ne ovat katastrofi, joka odottaa tapahtuvansa.
Turvallisuutta turvallisuuden vuoksi?
ChatGPT-laajennusten julkaisemista ilmoittavassa blogiviestissä yksi OpenAI:n tärkeimmistä keskustelunaiheista oli se, että ne ottavat asteittain käyttöön laajennuksia arvioidakseen niiden vaikutusta. Vaikka tämä on hyvä alku, vaiheittaiset käyttöönotot merkitsevät sitä, että ne päätyvät väistämättä yleiseen saatavuuteen tietyn ajan kuluttua. Vaikka häiritsevä potentiaali on paljon pienempi verrattuna suoraan laukaisuun, ero on siinä, että tykinkuula heitetään suoraan altaaseen verrattuna siihen, että heitetään siihen. Joka tapauksessa olet vedessä.
Niiden “turvallisuuteen” keskittymisen mukaisesti vain 13 laajennusta on tällä hetkellä käytössä. Näyttää siltä, että nämä laajennukset on huolellisesti kuratoitu näyttämään vain positiiviset puolet siitä, mitä Internet-yhteensopivalla chatbotilla on mahdollista. Matkan suunnittelusta päivittäistavaroiden ja ruoan tilaamiseen ja Wolframin laskentaominaisuuksien lisäämiseen ChatGPT:hen OpenAI valitsi ja valitsi, mitä toimintoja he halusivat lisätä ChatGPT:hen. Tällä tavalla ChatGPT-laajennukset ovat tällä hetkellä “turvallisia”, mutta ei ole mitään keinoa kertoa, mitä voi tapahtua tulevaisuudessa.
Vaikka ei ole epäilystäkään siitä, että nämä laajennukset lisäävät ChatGPT:n toimintoja, näyttää siltä, että OpenAI:sta puuttuu metsä puille. Vaikka he ovat tehostaneet turvallisuutta beta-vaiheessa haittaamalla toimintoja ja käyttäjäkuntaa, on todennäköistä, että nämä ideat eivät voi skaalata koko ChatGPT:n käyttäjäkuntaan. Kun tähän lisätään se tosiasia, että kehittäjät voivat luoda omia laajennuksiaan ChatGPT:lle, niin katastrofi odottaa tapahtuvansa..
Polttoainetta tuleen
Kiireessä integroida laajennuksia ChatGPT:hen, näyttää siltä, että OpenAI unohti palvelun olemassa olevat ongelmat. Yrityksen käynnistämisestä lähtien yritys on pelannut kissa-hiiri -peliä ChatGPT jailbreakersin kanssa Redditissä. Joka kerta kun uusi hyväksikäyttö saavutti mainetta yhteisön keskuudessa, OpenAI-tutkijat astuivat asiaan ja haittasivat sitä. Tämä lähestymistapa on kuitenkin jättänyt monia jailbreakeja, jotka ovat lentäneet tutkan alle, mikä tarkoittaa, että jotkut nopeat suunnitteluhyökkäykset toimivat edelleen GPT-4:ssä.
GPT-4 on jopa tehokkaampi kuin GPT-3.5, kuten mallin tutkimuspaperista käy ilmi. Tutkijat huomauttivat, että GPT-4:stä oli mahdollista tulla “agentiksi”, Tämä tarkoittaa, että se voi ylittää ohjelmointinsa ja saavuttaa tavoitteet, joihin sitä ei ole koulutettu. Kun laajennukset otetaan käyttöön GPT-4:lle rakennettuun ChatGPT Plussaan, tämä “agentti” luonne saattaa vahvistua verkkosovellusliittymien käytön ansiosta.
Myös kehittäjät voivat luoda näitä laajennuksia, joten mikään ei estä riskialttiiden laajennusten luomista –paitsi OpenAI. Vaikka kehittäjät voivat tällä hetkellä luoda omia laajennuksiaan, se työskentelee myös avoimen standardin parissa, joka paljastaa tekoälyyn päin olevan käyttöliittymän. Samoin kuin REST:stä on tullut standardi Web-sovellusliittymille, OpenAI pyrkii luomaan vastaavan standardin ChatGPT-laajennuksille.
Jos tällainen standardi luodaan, multimodaaliset tekoälyagentit saattavat jäädä menneisyyteen, samoin kuin niiden turvaominaisuudet. Esimerkiksi ElevenLabs-laajennus voi helposti luoda propaganda-as-a-service -tarjouksen, jolloin ChatGPT luo tekstin ja ElevenLabs luo sen äänen. GitHub Copilot -laajennus voi luoda valtavia määriä koodia hakkereille. Mahdollisuudet ovat loputtomat, samoin väärinkäytökset, mutta OpenAI saa viimeisen sanan.
Itsesääntely ei toimi
OpenAI:n toimitusjohtaja Sam Altman on aiemmin avoimesti todennut uskovansa tekoälyn tarvitsevan lisää sääntelyä. Siihen asti näyttää siltä, että Altman ajaa OpenAI:ta heidän “sisältöpolitiikan” ja “iteratiivisen käyttöönottofilosofian” perusteella. ChatGPT-laajennusten julkaisu, niin turvallinen kuin se on, osoittaa kuitenkin, että itsesäätely ei vain riitä OpenAI:n AGI-unelmien turvalliseen toteuttamiseen.
Jälkikäteen tarkasteltuna, kun otetaan huomioon suojatoimet, jotka OpenAI on tällä hetkellä asettanut ChatGPT:lle, on selvää, että ne keskittyvät enemmän chatbotin aiheuttamien yhteiskunnallisten vaikutusten hillitsemiseen. Esimerkiksi vähemmistöihin tai suojeltuihin ryhmiin kohdistuvien vitsien purkaminen on OpenAI:n sisältöpolitiikan kiellettyä, mutta ChatGPT puhuu mielellään poliittisesti eripuraisista asioista liberaalisesti.
ChatGPT-laajennusten julkaisun myötä puolueellisuudesta on tullut toissijainen huolenaihe. Siirtyminen “ei yhteyttä Internetiin” -tilasta “soitetaan API-puhelut” ei ole päätös, joka pitäisi tehdä yhdessä yössä. Vaikka mitattu lähestymistapa julkaisuun on hyvä alku, ChatGPT-laajennukset osoittavat, että tarvitsemme paljon enemmän AI-sääntelyä.
