Oamenii de știință ruși se îndoiesc că inteligența artificială poate fi de încredere necondiționată

Un subiect foarte important legat de tehnologiile de inteligență artificială a fost discutat la ultimul Prezidiu al Academiei Ruse de Științe. Așadar, în timpul discuției, oamenii de știință au încercat să înțeleagă cât de mult poți avea încredere în inteligența artificială (AI) și unde este linia după care o persoană trebuie să ia singură o decizie.

Credeți sau nu Inteligența artificială

Deci, potrivit președintelui Academiei Ruse de Științe A. Sergeeva, AI este o așa-numită „cutie neagră” pe care nici creatorii ei înșiși nu înțeleg pe deplin cum funcționează. Și astfel apare o întrebare foarte logică: este posibil să avem încredere în concluziile AI dacă nu putem urmări lanțul de inferențe făcute de această „mașină”?

Într-adevăr, de fapt, inteligența artificială face deja un număr destul de mare de operațiuni mai bine și mai rapid decât oamenii.

Și poate fi tentant să abandonezi știința în principiu, pentru că un specialist de competență medie poate stabili anumite sarcini și poate citi răspunsuri din AI.

Dar numai în cazul încrederii complete și nediscriminate în soluțiile AI, puteți obține o imagine foarte distorsionată, care poate fi destul de costisitoare.

Chestia este că o persoană este prea înclinată să aibă încredere în tehnologie, dar cu inteligența artificială totul este mult mai complicat. Chestia este că omenirea încă nu poate explica pe deplin cum funcționează creierul uman.

Și, în același mod, nu există nicio înțelegere a modului în care funcționează AI, care este construită prin analogie cu creierul uman. Într-adevăr, rețelele neuronale se bazează pe o ecuație destul de simplă a unui neuron.

Dar numai în cazul în care, de exemplu, 600 de miliarde de astfel de componente sunt implicate în lucrare deodată, absolut nimeni nu va spune cu certitudine ce conexiuni se formează în rețeaua neuronală.

În plus, oamenii de știință au observat că, pe măsură ce rețelele neuronale se dezvoltă, se găsesc din ce în ce mai multe dezavantaje. La urma urmei, la început, AI învață din milioane de exemple diferite.

Dar adesea, chiar și cu o ușoară abatere de la parametrii „învățați” în timpul antrenamentului, sistemul începe să dea rezultate incorecte.

Deci, un exemplu destul de frapant este o rețea neuronală creată de IBM, creată intenționat pentru nevoi medicale. Deci, s-a dovedit că IBM AI face diagnostice la nivelul unui medic destul de mediu. Aceasta înseamnă că, deși tehnologiile AI permit crearea de sisteme inteligente, acestea sunt departe de a fi perfecte.

Și în încheierea discuției, oamenii de știință au ajuns la concluzia că, având în vedere tendința din ce în ce mai mare în dezvoltarea și utilizarea inteligenței artificiale, este pur și simplu necesar să se creeze un anumit analog al GOST, care va face posibilă utilizarea completă a AI numai după ce sistemul a trecut o gamă întreagă de verificări, iar oamenii de știință sunt convinși că AI nu va funcționa erori.

Scrieți în comentarii cum vă simțiți personal despre utilizarea AI în viața de zi cu zi. Dacă ți-a plăcut materialul, evaluează-l și nu uita să te abonezi la canal. Vă mulțumim pentru atenție!