Anthropic вградува независни оценувачи: METR со пристап како вработен, SecureBio со ограничен
Автор: Редакција на FinPortal.mk ·
Компанијата за вештачка интелигенција Anthropic објави дека соработува со непрофитните организации METR и SecureBio, а води и разговори со дополнителни организации, меѓу кои и Hugging Face. Оваа соработка е дел од заложбата на компанијата да вгради независни оценувачи во своите редови. Anthropic се обврза на блиска соработка со оценувачи од трети страни кога извршниот директор Дарио Амодеи го објави својот предлог за забавување на темпото на развој на моделите минатиот месец. Амодеи изјави дека оценувачите ќе помогнат да се „верификува“ придржувањето на Anthropic кон безбедносните практики, а компанијата неколку дена подоцна го избра Accenture за свој прв партнер. METR, чие име значи Истражување на оценување на модели и закани, се смета за оценувач од трето ниво. Компанијата вработила шест лица од оваа организација, кои имаат пристап до хардверот, канцелариските простории и алатките на Anthropic, „приближно на исто ниво“ со она што го имаат нејзините сопствени тимови за проценка на ризик. Вработените од METR ќе ги анализираат нивоата на ризик, инцидентите и практиките на Anthropic и ќе ги објавуваат своите наоди. Според компанијата, таа не го финансира работењето на METR. SecureBio се смета за оценувач од прво ниво, што значи дека неговиот пристап е поограничен. Организацијата го разгледува делот за хемиско и биолошко оружје од извештајот за ризици што Anthropic го објави во август. SecureBio би можел да учествува во проекти со поширок пристап и права за објавување во иднина. Не е јасно какво ниво на пристап би можеле да добијат други организации како Hugging Face. Anthropic соопшти дека „работи кон амбициозно партнерство“ со Accenture, но не откри како таа компанија се вклопува во нејзиниот систем на нивоа. Компанијата минатиот месец изјави дека директно ќе го финансира работењето на Accenture „со оглед на важноста и итнината на оваа работа“, што поттикна критики за нејзината независност на социјалните мрежи. „Засега нема стандарди за тоа до какви информации треба