Un nou program de instruire AI îi ajută pe roboți să-și dețină ignoranța

HONOLULU — O nouă schemă de formare ar putea reaminte programelor de inteligență artificială că nu sunt știe-toate.

Programele AI care rulează roboți, mașini autonome și alte mașini autonome se antrenează adesea în medii simulate înainte de a face debuturi în lumea reală (SN: 8/12/18, str. 14). Dar situațiile pe care AI nu le întâlnește în realitatea virtuală pot deveni puncte oarbe în luarea deciziilor din viața reală. De exemplu, un robot de livrare antrenat într-un peisaj urban virtual fără vehicule de urgență poate să nu știe că ar trebui să se oprească înainte de a intra pe o trecere de pietoni dacă aude sirene.

Pentru a crea mașini care greșesc din partea precauției, informaticianul Ramya Ramakrishnan de la MIT și colegii săi au dezvoltat un program de formare post-simulare în care un demonstrant uman ajută AI să identifice lacunele în educația sa. „Acest lucru permite [AI] pentru a acționa în siguranță în lumea reală”, spune Ramakrishnan, a cărui activitate este prezentată pe 31 ianuarie la Conferința AAAI privind inteligența artificială. Inginerii ar putea folosi, de asemenea, informații despre punctele moarte ale inteligenței artificiale pentru a proiecta simulări mai bune în viitor.

În timpul perioadei sale de probă, IA ia notă de factorii de mediu care influențează acțiunile omului pe care nu îi recunoaște din simularea sa. Când omul face ceva la care AI nu se așteaptă – cum ar fi ezitarea să intre pe o trecere de pietoni, în ciuda faptului că are dreptul de trecere – AI-ul scanează împrejurimile sale pentru elemente necunoscute anterior, cum ar fi sirenele. Dacă AI detectează oricare dintre aceste caracteristici, presupune că omul urmează un protocol de siguranță pe care nu l-a învățat în lumea virtuală și că ar trebui să se supună judecății omului în aceste tipuri de situații.

Ramakrishnan și colegii săi au testat această configurație antrenând mai întâi programele AI în simulări simpliste și apoi lăsându-le să-și învețe punctele moarte de la personajele umane în lumi mai realiste, dar totuși virtuale. Cercetătorii trebuie acum să testeze sistemul în lumea reală.