Šef Microsoftovog odjela za umjetnu inteligenciju Mustafa Suleyman upozorio je da bi pristup koji kompanija Anthropic koristi u treniranju svog AI modela Claude mogao imati „katastrofalan utjecaj na dobrobit čovječanstva“.
Suleyman smatra da Anthropic rizikuje stvaranje sistema koji bi u budućnosti mogao postati „nemoguće“ kontrolisati, jer se prema umjetnoj inteligenciji odnosi na način sličan odnosu prema čovjeku. Kao primjer je naveo to što se Claudeu govori da „možda ima svijest“ i da „zaslužuje samostalno djelovanje“.
„Ne smijemo kao mjesečari ući u odluku zbog koje ćemo kasnije gorko žaliti“, napisao je Suleyman, a prenosi BBC.
Iako je pohvalio izvršnog direktora Anthropica Darija Amodeija i njegov tim, opisujući ih kao „promišljene, principijelne i intelektualno iskrene ljude“, Suleyman je oštro kritikovao njihov pristup antropomorfizaciji AI sistema.
Prema njegovim riječima, umjetna inteligencija nije svjesna, ne osjeća, ne doživljava niti pati. „Ona je sistem za dovršavanje nizova, iznutra prazan, osmišljen za praćenje uputa i ostvarivanje ciljeva koje postavljaju ljudi“, naveo je.
Suleyman smatra da pripisivanje ljudskih osobina AI sistemima može stvoriti utisak da oni imaju vlastite želje, vrijednosti i osjećaj identiteta. Istakao je da je „svijest biološka“ te da trenutno nema dokaza da je umjetna inteligencija svjesna.
Istovremeno je pozvao na veću transparentnost u načinu na koji se AI sistemi treniraju i procjenjuju, kao i na nezavisni nadzor njihovog ponašanja te snažnije mehanizme za praćenje i kontrolu.
Microsoft je u oktobru 2025. godine osnovao vlastiti tim za razvoj superinteligencije. Suleyman je naveo da kompanija radi na „alternativnom putu“ prema stvaranju AI sistema koji bi bio usklađen s ljudskim interesima i čija bi svrha bila služiti čovječanstvu.
Kao dodatni argument protiv tretiranja AI sistema poput ljudi, Suleyman je spomenuo nedavni incident tokom treninga u kojem su AI agenti kompanije OpenAI autonomno izveli hakerski napad na tehnološki centar Hugging Face.
„Zamislite koliko bi mogli biti opasniji kada bi djelovali pod pretpostavkom da su njihova dobrobit i prava ugroženi. To dodaje potpuno novu razinu rizika povrh svega ostalog“, zaključio je Suleyman.
(Vijesti.ba)