Над 100 експерти за ВИ бараат независна проверка на безбедноста на моделите
FinPortal.mk · 18.9.2026 г.
Над 100 експерти и евалуатори за вештачка интелигенција се обединија со предупредување дека нема да имаат потребните ресурси и заштита за да ја тестираат безбедноста на технологијата за вештачка интелигенција. Групата во петокот објави јавно писмо на оваа тема, кое ексклузивно го сподели со CNBC. Потписниците, меѓу кои се и имиња како Џефри Хинтон и претставници на организации како Универзитетот Џон Хопкинс, Универзитетот Стенфорд и непрофитниот евалуатор METR, бараат од провајдерите на фундаментални модели да им овозможат на независните евалуатори на вештачка интелигенција потребната „научна објективност, транспарентност, независност и цврста заштита“ за ефективно и веродостојно извршување на нивната работа. Конрад Стош, претседател на конзорциумот AI Evaluator Forum што го организираше писмото, изјави дека целта е да се демонстрира заедничка основа за основните принципи и да се осигура дека независниот надзор може да биде значајна алатка за управување со ризиците од вештачката интелигенција. Според него, станува збор за обид компаниите што развиваат фундаментални модели да бидат одговорни за нивните неодамнешни ветувања за поддршка на потемелно тестирање на безбедноста од трети страни. Потписниците сакаат работата на евалуаторите да се изведува независно од бизнисите, со поголема транспарентност за технологиите и „да бидат заштитени од одмазда од компаниите во кои се вградени“, се вели во писмото. Стош нагласи дека евалуаторите од трети страни не се замислени како замена за внатрешните напори за евалуација, а призна и дека е можно компаниите за фундаментални модели да го игнорираат јавното писмо. Вињ Нгујен, висок соработник на Советот за надворешни односи за вештачка интелигенција и поранешен главен директор за вештачка интелигенција на Националната безбедносна агенција, кој го потпиша писмото, изјави дека независните евалуатори се потребни за откривање клучни информации што можат да помогнат во ублажување на потенцијални безбедносни пропусти и економски катастро