Invenția noastră finală

Calculatoarele iau deja tot felul de decizii pentru tine. Cu puțină îndrumare umană sau deloc, ei deduc ce cărți ați dori să cumpărați, să vă tranzacționați acțiunile și să distribuiți energie electrică. Ei fac toate acestea rapid și eficient folosind o formă simplă de inteligență artificială. Acum, imaginați-vă dacă computerele ar controla și mai multe aspecte ale vieții și ar putea gândi cu adevărat de la sine.

Barrat, un realizator și autor de documentare, povestește discuțiile sale cu oameni de știință și ingineri care dezvoltă inteligență artificială din ce în ce mai complexă sau AI. Scopul multora din domeniu este de a face un creier mecanic la fel de inteligent – creativ, flexibil și capabil de a învăța – ca și mintea umană. Dar un număr tot mai mare de vizionari ai inteligenței artificiale au îndoieli.

Science-fiction a explorat mult timp implicațiile mașinilor asemănătoare oamenilor (gândiți-vă la cele ale lui Asimov Eu, Robot), dar tratamentul atent al lui Barrat adaugă o doză de realitate. Prin conversațiile sale cu experții, el susține că pericolele AI pot cu ușurință, chiar inevitabil, să depășească promisiunea acesteia.

Până la jumătatea secolului – poate într-un deceniu, spun unii cercetători – un computer poate atinge inteligența artificială la scară umană, o piatră de hotar neclară. (Testul Turing oferă o definiție: un computer ar trece testul păcălindu-i pe oameni să creadă că este uman.) AI ar putea evolua rapid până la punctul în care este de mii de ori mai inteligent decât un om. Dar cu mult înainte de asta, un robot sau un computer AI ar deveni conștient de sine și nu ar fi interesat să rămână sub control uman, susține Barrat.

Un cercetător AI notează că sistemele auto-conștiente, care se auto-îmbunătățesc vor avea trei motivații: eficiență, autoprotecție și achiziție de resurse, în primul rând energie. Unii oameni ezită chiar să recunoască posibilele pericole ale acestei situații, crezând că computerele programate să fie superinteligente pot fi, de asemenea, programate pentru a fi „prietenos”. Dar alții, inclusiv Barrat, se tem că oamenii și inteligența artificială se îndreaptă către o luptă cu moartea. Inteligența nu este imprevizibilă doar uneori sau în cazuri speciale, scrie el. „Sistemele informatice suficient de avansate pentru a acționa cu inteligență la nivel uman vor fi probabil imprevizibile și inscrutabile tot timpul.”

Oamenii, spune el, trebuie să-și dea seama acum, în primele etape ale creării AI, cum să coexiste cu mașinile hiperinteligente. În caz contrar, se îngrijorează Barrat, am putea ajunge cu o planetă – în cele din urmă o galaxie – populată de entități AI care se auto-sărbă, care se reproduc pe sine, care acționează fără milă față de creatorii lor.

Cumpără carte
Linkurile Amazon.com de pe site-ul Science News generează fonduri pentru programele Society for Science & the Public.