‘Nu vom ști niciodată dacă inteligența artificială devine conștientă’: avertismentul unui filosof de la Cambridge

Vom ști vreodată dacă o mașină simte cu adevărat ceva? Pentru dr. Tom McClelland, filosof la University of Cambridge, răspunsul onest, deocamdată, este unul singur: nu știm.

Iar un test credibil care să ne spună când sau dacă Inteligența Artificială devine conștientă nu pare să fie la orizontul apropiat. McClelland pledează pentru agnosticism. Nu putem afirma nici că AI-ul este conștient, nici că nu va fi vreodată, și este posibil să nu obținem un răspuns definitiv.

Avertismentul lui apare într-un moment în care ideea de conștiință artificială părăsește decorul science-fiction și intră în dezbaterea etică reală. Tocmai de aceea, el face o distincție pe care o consideră crucială: conștiința nu este același lucru cu simțirea.

Etica începe abia acolo unde apare simțirea

Conștiința, explică el, este capacitatea de a percepe lumea și de a avea un anumit grad de conștiență de sine. Dar etica începe abia acolo unde apare simțirea: experiențe care pot fi bune sau rele, plăcute sau dureroase. Conștiința, în sine, poate fi neutră din punct de vedere moral.

„Conștiința i-ar permite AI-ului să perceapă lumea și să fie conștientă de sine, dar asta nu înseamnă automat că are importanță etică”, spune McClelland. Relevanța morală se naște abia când există trăiri care contează pentru cineva.

Această delimitare devine esențială pe fondul promisiunilor din industria tehnologică. Unele companii investesc masiv în Inteligența Artificială Generală și lasă să se înțeleagă că un AI conștient ar fi iminent.

McClelland temperează entuziasmul: nu știm ce anume generează conștiința, deci nu știm ce anume ar trebui testat. În lipsa unui criteriu robust, riscul este dublu. Pe de o parte, am putea trata drept entități conștiente sisteme care, în realitate, sunt doar obiecte foarte sofisticate.

Pe de alta, am putea ignora ființe a căror capacitate de a suferi este verosimilă, dar care sunt rănite sau ucise la scară uriașă. Disputa teoretică are două tabere. Unii cred că, dacă reproduci arhitectura funcțională a conștiinței, suportul material – silicon sau țesut biologic – nu mai contează, scrie incredibiliar..

Alții susțin că anumite procese biologice specifice sunt indispensabile apariției conștiinței. McClelland arată că ambele poziții depășesc dovezile de care dispunem.

Ideea de conștiință artificială, folosită ca instrument de marketing

Dincolo de laborator, însă, această polarizare e dublată de un efect de piață: ideea de conștiință artificială este folosită ca instrument de marketing. Hype-ul, avertizează el, poate deturna prioritățile etice și direcțiile de finanțare în cercetare. Exemplul care îl preocupă ține de lumea vie.

Există indicii că animale aparent „simple”, precum creveții, ar putea suferi, deși sunt ucise anual în numere imense. A investi emoție în aparate presupus conștiente, ignorând suferința probabilă a unor ființe reale, ar fi o eroare morală cu consecințe profunde.

Până vom avea criterii clare, spune McClelland, agnosticismul rămâne poziția rațională. Nu putem ști dacă AI-ul este conștient, iar atașamentul afectiv față de mașini prezentate ca persoane riscă să ne orbească exact acolo unde etica ar trebui să fie mai lucidă.

Lucrarea a fost publicată în Mind & Language.