Независни оценувачи открија слабости во безбедносниот надзор на OpenAI

Непрофитните организации METR и Redwood Research соопштија дека спровеле пилот-преглед на внатрешниот систем за надзор на OpenAI, со што компанијата за вештачка интелигенција направи уште еден чекор кон продлабочување на соработката со трети страни за безбедност. Вежбата била дизајнирана за OpenAI да испита како би изгледало кога на надворешни истражувачи би им се дал „длабок пристап“ до нејзината внатрешна инфраструктура.

Од 21 јули до 11 август, по еден вработен од секоја организација имал пристап до внатрешниот код на OpenAI, документацијата и до дел од техничкиот персонал. Според соопштението, вработените биле придружувани додека биле во просториите и користеле уреди издадени од OpenAI кои „никогаш не ги напуштиле просториите“. Оценувачите откриле неколку „нови ранливости“, меѓу кои и експлоат што би им овозможил на агентите да спречат „стотици“ неодамнешни дејства да бидат надгледувани. Од OpenAI им соопштиле на METR и Redwood дека ги затвориле идентификуваните ранливости што влијаат врз производствените заштитни механизми.

METR и Redwood наведоа дека се согласиле да објават само високо ниво на информации за своите наоди, бидејќи пилотот не бил дизајниран да „обезбеди цврста јавна транспарентност за системот за надзор на OpenAI“. Тие доставиле внатрешен извештај од 61 страница до OpenAI и очекуваат јавно да споделат повеќе детали за идните вежби. Од OpenAI изјавиле за CNBC дека соработката се надоврзува на нивната долгогодишна посветеност на пионерски пристапи кон тестирање од трети страни и дека наученото го користат за зајакнување на заштитните механизми.

Извршниот директор на OpenAI, Сем Алтман, во септември вети дека на независните оценувачи ќе им овозможи „пристап како на вработени“ во компанијата, откако идејата ја предложи извршниот директор на Anthropic, Дарио Амодеи, како дел од неговиот план за забавување на темпото на развој на вештачката интелигенција. Anthropic оттогаш објави договори со организации како Accenture, METR и SecureBio, а OpenAI претходно овој месец соопшти дека „активно финализира договори со оценувачи за безбедност од трети страни“.

Оценувачите соопштија и дека за време на тринеделниот пилот го тестирале внатрешниот систем на OpenAI за надзор на неусогласеност, при што го оцениле системот како што постоел на и пред 21 јули, забележувајќи дека OpenAI го проширувала системот за време на вежбата. Независните оценувачи историски заземаат релативно тивок агол во индустријата за вештачка интелигенција вредна повеќе трилиони долари, поради што, како што експертите изјавиле за CNBC, остануваат прашањата како ќе се финансираат овие групи и каква ќе биде нивната структура на известување.