[Stiri IT] - Concedierea CEO-ului OpenAI, legată de o descoperire în domeniul AI ce “ar putea amenința omenirea”

[Razzwan]

 

Concediat și apoi reangajat la presiunea angajaților OpenAI, CEO-ul Sam Altman este acum în centrul unor speculații pe tema unui nou proiect numit Q* (Q-Star), vizând dezvoltarea primului AGI (inteligență artificială generală) capabil să învețe și să efectueze orice sarcină cognitivă efectuată de oameni.

Potrivit informațiilor obținute pe surse, mai mulți cercetători de la OpenAI au avertizat Consiliul de Administrație cu privire la progresele făcute în cadrul proiect Q*, considerând că inteligența artificială dezvoltată sub acesta “ar putea amenința omenirea”, cu câteva zile înainte ca Sam Altman să fie demis de la conducerea companiei. Înainte de întoarcerea sa triumfală, marți seara, peste 700 de angajați Open AI au amenințat că se vor retrage din companie pentru a se alătura partenerului Microsoft, în solidaritate cu șeful lor concediat, pe care dezvoltatorul Windows tocmai anunțase că îl pune în fruntea unui nou proiect de inteligență artificială. Potrivit aceleași surse, lista nemulțumirilor la adresa lui Sam Altman este ceva mai lungă, însă „picătura care a umplut paharul” ar fi fost opoziția acestuia față de accelerarea cercetărilor în programul Q*.

Potrivit scrisorii trimise Consiliului de Administrație Open AI, programul Q* este foarte aproape de a livra prima super inteligență artificială, sau AGI. OpenAI definește AGI drept sisteme AI care sunt mai inteligente decât oamenii.

Beneficiind de vaste resurse disponibile în centrele de procesare ale OpenAI, noul model AGI poate deja să rezolve anumite probleme matematice. Sau cel puțin, așa se arată în declarațiile oferite sub protecția anonimatului, de angajați direct implicați în acest program.

Chiar dacă nu pare mare lucru, rezolvarea problemelor de matematică prin parcurgerea unor teste intenționate pentru elevi de școală este considerată de experți în domeniul drept o provocare monumentală pentru orice model de inteligență artificială. Spre exemplu, ChatGPT și derivatele sale au un mod de lucru bazat pe modele lingvistice care folosesc asocierea statistică de cuvinte și expresii, răspunsurile oferite fiind mai mult o potrivire cu diferite contexte în care se regăsesc acele informații, decât un exercițiu de rațiune sau inteligență reală. Odată ce te oprești din a pune întrebări pe ChatGPT, chatbot-ul este ca și „înghețat”, neexistând un proces de gândire în așteptare, sau conștiință. Practic, te poți gândi la ChatGPT ca la un lacăt cu cifru, unde GPT funcționează doar atât timp cât e nevoie pentru a decoda cifrul (întrebarea pusă de tine) după care se oprește.

În schimb, pentru a rezolva o problemă de matematică de școală generală nu te poți rezuma doar la enunțul acesteia, elevul (sau AGI-ul) având de făcut tot felul de asocieri cu noțiuni abstracte, ba chiar să deducă informații lipsă folosind propria intuiție. Odată ajunsă la acest nivel, o inteligență artificială generalistă este la doar un pas de ceea ce oamenii de știință numesc ”AI singularity”, punctul de la care AI-ul începe să gândească nu doar ce i se cere să gândească, ci și să gândească de unul singur, generând propriile sale idei și concepte abstracte. Odată depășit acest obstacol, AI-ul poate evolua foarte rapid și în moduri imprevizibile, consensul general între oamenii de știință fiind acela că atingerea nivelului de super inteligență (peste nivelul uman) este ca și inevitabilă.

Deși presupusa scrisoare nu a putut fi examinată în mod independent, iar personalul care a semnat scrisoarea nu a dorit să comenteze conținutul acesteia, OpenAI ar fi recunoscut într-un mesaj intern adresat angajaților existența proiectului Q* (Q-Star), un posibil pas important pentru crearea inteligenței artificiale generale (AGI), capabilă să învețe și să îndeplinească orice sarcină cognitivă efectuată de oameni.