Надворешни оценувачи влегуваат во центарот на дебатата за безбедноста на вештачката интелигенција

Дебатата за безбедноста на вештачката интелигенција ја турка мала група надворешни оценувачи во самиот центар на индустрија вредна неколку трилиони долари. Компаниите „Антропик“ и „ОпенAI“, кои се во средината на жестока расправа за тоа дали можат истовремено да ги заштитат своите напредни модели и да го развиваат бизнисот, бараат поддршка од неколку мали трети страни како „Модел Евалуатион анд Треат Ресеарч“ (METR), „Аполо Рисрч“ и „Транслус“.

Овие оценувачи, кои главно работат како непрофитни организации, сè уште го бараат своето место во индустрија каде капиталот тече со историски нивоа, а новите модели излегуваат побрзо од кога било. Нивната основна улога е да ги проценуваат можностите и ризиците на моделите на вештачка интелигенција и да укажуваат на случаи кога технологијата се однесува лошо. Во отсуство на федерален притисок за регулатива, оценувачите добија прекумерно значење.

Извршниот директор на „Антропик“, Дарио Амодеи, минатиот месец се обврза да вгради независни оценувачи во својата компанија — потег што брзо го поддржа извршниот директор на „ОпенAI“, Сем Алтман. Претседателот Доналд Трамп ја поддржа идејата, како и повеќето од најголемите американски технолошки компании. Но, остануваат неодговорени прашањата за тоа како тие трети страни треба да се финансираат, каков пристап ќе имаат и како конечно ќе изгледа структурата на известување.

„До одреден степен, проблемот, како и секогаш, се парите“, изјави за CNBC Суреш Венкатасубраманијан, професор по компјутерски науки на Универзитетот Браун. „Кој плаќа за овие компании да ја вршат својата работа? Како ќе ги поддржат? Ви треба екосистем, ви треба одржлив деловен модел за ова.

Во моментов, „Антропик“, „ОпенAI“ и инфраструктурните партнери што профитираат од бумот на вештачката интелигенција ги пишуваат правилата. Критичарите велат дека тоа е исто како да се бара од најголемите банки да нè заштитат од финансиска криза или да им се дозволи на фармацевтските компании да ставаат лекови на пазарот без регулаторно одобрение. Трамп неодамна ги пофали директорите за вештачка интелигенција за нивното „огромно саморегулирање“ и сигнализираше дека има намера да ги остави компаниите сами, не сакајќи да го попречи растот на индустријата што ја движи економијата и берзата. Тој ги охрабри компаниите за вештачка интелигенција да „се здружат со независен надворешен ревизор или оценувач“ како дел од доброволниот договор што го претстави кон крајот на септември.

Како што лабораториите за вештачка интелигенција почнуваат да поставуваат оценувачи, веќе се појавуваат тензии. „ОпенAI“ минатата недела отпушти три вработени поради „кршење на нашите политики за пристап и ракување со чувствителни информации на компанијата“, според портпарол. Двајца од тие вработени, Микита Балесни и Томек Корбак, изјавија дека веруваат оти биле отпуштени поради начинот на кој комуницирале со надворешни оценувачи. „ОпенAI“ ја оспори таа карактеризација и соопшти дека „активно финализира договори со надворешни проценувачи на безбедноста и ќе објави детали во наредните недели“.