Direktor za umjetnu inteligenciju u Microsoftu Mustafa Sulejman kritizirao je pristup kompanije Anthropic razvoju svijesti umjetne inteligencije, upozorivši na moguće poteškoće u kontroli budućih AI sustava.
Sulejman smatra da bi način na koji se modeli treniraju mogao otežati njihovo upravljanje u budućnosti, prenio je Reuters.
Ipak, naglasio je kako dijeli Anthropicov fokus na sigurno upravljanje umjetnom inteligencijom te pohvalio integritet vodstva kompanije, posebice njezina izvršnog direktora Darija Amodeija, piše b92.
Kritika se prvenstveno odnosi na uključivanje tema svijesti, dobrobiti i osobnog identiteta u obuku chatbota Claude.
Prema Sulejmanovim riječima, podučavanje AI sustava jeziku i obrascima ponašanja povezanima s ljudskom sviješću moglo bi utjecati na to kako umjetna inteligencija „doživljava“ vlastitu ulogu.
PREPORUKA ZA VAS
Upozorio je da bi takav pristup mogao dodatno otežati upravljanje budućim sustavima koji će biti znatno sposobniji od današnjih modela, pa i njihovo isključivanje kada to bude potrebno.
Sulejman smatra da bi se industrija umjetne inteligencije trebala usredotočiti na razvoj sustava koji služe ljudima, umjesto na njihovo približavanje ljudskim osobinama.
Zbog toga se zauzima za uklanjanje spekulativnih formulacija o svijesti iz podataka i procesa obuke AI sustava.
Ova rasprava odvija se u vrijeme sve intenzivnijih razgovora u tehnološkoj industriji o sigurnosti i brzini razvoja naprednih modela umjetne inteligencije.
Anthropic je i ranije upozoravao na moguće rizike sve moćnijih AI sustava, dok su čelnici nekoliko velikih tehnoloških kompanija posljednjih dana isticali važnost dodatnih sigurnosnih mehanizama i opreznijeg razvoja.
Izvor: Večernji.ba