Вградени проценувачи на вештачка интелигенција: безбедносна проверка без моќ да запре
FinPortal.mk · 16.9.2026 г.
Најважното ново работно место во вештачката интелигенција можеби ќе дојде со службена легитимација, преносен сметач и пристап до некои од најстрого чуваните системи во технологијата — големите јазични модели на лидерите како „Антропик“ и „ОпенAI“. Она што можеби нема да го добие е моќта да ги запре. Извршниот директор на „Антропик“, Дарио Амодеи, предложи вградување на проценувачи на безбедноста од трети страни во компаниите кои развиваат најнапредни модели на вештачка интелигенција, како дел од план за забавување на напредокот на сè помоќните системи. Овој предлог дојде откако поранешниот истражувач во „Антропик“, Џејкоб Коксон, поднесе оставка со предупредување дека лабораториите за најнапредни модели се натпреваруваат кон системи што можеби нема да можат да ги контролираат. Во есеј објавен минатиот викенд, Амодеи се обврза дека „Антропик“ ќе им обезбеди на проценувачите од трети страни пристап споредлив со оној на внатрешните тимови за ризик, како и право да ги објавуваат своите наоди без уредничка контрола на компанијата, со ограничени цензури. Тој експлицитно го наведе примерот на вградените банкарски супервизори, пишувајќи дека неговиот предлог „има преседан во банкарската индустрија, која понекогаш вклучува регулаторни ’супервизори‘ вградени заедно со вработените“. Сепак, Џули Андерсен Хил, деканка на Правниот факултет на Универзитетот во Вајоминг и експертка за банкарска регулатива, тврди дека без моќ да го „вклучат прекинувачот“ за целата операција, споредбата со банкарската регулатива не е точна. „Ако не им дадете таква моќ, не знам што прават“, рече Хил. Таа објаснува дека во најголемите банки владините испитувачи имаат канцеларии во самата институција, пристап до внатрешните системи и вработени и постојано присуство. Тие можат да наложат банка да прекине одредена практика, да го ограничат нејзиниот раст, да наметнат промени во раководството, а во екстремни случаи и да ја затворат. Предложените проценувачи на „Антропик“ би можеле да истражуваат и да извес