Cercetător AI: Inteligența artificială ne-ar putea elimina până în 2030

Jacob Coxon, un cercetător britanic în vârstă de 27 de ani, a decis să demisioneze de la Anthropic și să părăsească industria inteligenței artificiale. Matematicianul avertizează că dezvoltarea rapidă a unei superinteligențe capabile să se îmbunătățească singură ar putea avea consecințe extrem de grave pentru omenire.

Coxon a fost implicat în antrenarea unor modele de inteligență artificială folosind volume mari de date și spune că a ales să se retragă deoarece consideră că marile companii din domeniu nu acordă suficientă atenție riscurilor, transmite Știri.md cu referire la realitatea.net.

„Niciuna dintre companii nu acționează responsabil. Se îndreaptă cu viteză amețitoare către o superinteligență capabilă de auto-îmbunătățire și se joacă cu viețile noastre”, a declarat cercetătorul.

El critică atât Anthropic, cât și OpenAI și susține că ritmul în care avansează tehnologia este mult mai rapid decât dezvoltarea măsurilor necesare pentru a o controla în siguranță.

Coxon avertizează că viitoarele sisteme de inteligență artificială ar putea depăși capacitățile oamenilor și ar putea ajunge să influențeze direct lumea reală.

„Nu subestimați puterea acestei tehnologii. Aceste sisteme vor deveni în curând supraumane, capabile să spargă orice sistem informatic, să revoluționeze orice domeniu peste noapte și să dobândească putere și resurse reale”, susține acesta.

„Ne-ar putea elimina pe toți până la sfârșitul deceniului”

Cercetătorul afirmă că temerile legate de inteligența artificială există inclusiv în interiorul companiilor care dezvoltă aceste tehnologii, chiar dacă discursul public este mai rezervat.

„Oamenii care dezvoltă inteligența artificială cred cu sinceritate că aceasta ne-ar putea elimina pe toți până la sfârșitul deceniului. Deși în fața presei cercetătorii prezintă un discurs liniștitor, în privat își exprimă teama”, a spus Coxon.

Acesta a lucrat anterior la OpenAI, pe care a părăsit-o pentru Anthropic, companie cunoscută pentru accentul pus pe siguranța sistemelor de inteligență artificială.

Ulterior, Coxon spune că a ajuns la concluzia că și Anthropic participă la aceeași cursă pentru construirea unor modele din ce în ce mai puternice.

„La OpenAI, mulți nu au internalizat pe deplin implicațiile civilizaționale. La Anthropic, implicațiile sunt bine înțelese, dar sunt angajați într-o cursă pentru a fi primii care le realizează – cred că nimeni altcineva nu va acționa responsabil, așa că trebuie să o facă singuri, în ciuda riscurilor”, a explicat cercetătorul.

În opinia sa, diferența dintre cele două companii nu este neapărat legată de direcția în care merg, ci de nivelul la care sunt conștientizate riscurile.

Competiția cu China ar putea pune presiune pe măsurile de siguranță

Coxon avertizează și că rivalitatea tehnologică dintre Occident și China ar putea determina companiile și guvernele să acorde mai puțină importanță siguranței, de teama pierderii avantajului în cursa pentru inteligența artificială.

El spune că domeniul a intrat deja într-o etapă pe care unii dintre colegii săi o numesc „endgame” – un moment decisiv în dezvoltarea unor sisteme de inteligență artificială tot mai performante.

Sursa: www.stiri.md