Независни оценувачи открија слабости во безбедносниот надзор на OpenAI
Автор: Редакција на FinPortal.mk ·
Непрофитните организации METR и Redwood Research соопштија дека спровеле пилот-преглед на внатрешниот систем за надзор на OpenAI, со што компанијата за вештачка интелигенција направи уште еден чекор кон продлабочување на соработката со трети страни за безбедност. Вежбата била дизајнирана за OpenAI да испита како би изгледало кога на надворешни истражувачи би им се дал „длабок пристап“ до нејзината внатрешна инфраструктура. Од 21 јули до 11 август, по еден вработен од секоја организација имал пристап до внатрешниот код на OpenAI, документацијата и до дел од техничкиот персонал. Според соопштението, вработените биле придружувани додека биле во просториите и користеле уреди издадени од OpenAI кои „никогаш не ги напуштиле просториите“. Оценувачите откриле неколку „нови ранливости“, меѓу кои и експлоат што би им овозможил на агентите да спречат „стотици“ неодамнешни дејства да бидат надгледувани. Од OpenAI им соопштиле на METR и Redwood дека ги затвориле идентификуваните ранливости што влијаат врз производствените заштитни механизми. METR и Redwood наведоа дека се согласиле да објават само високо ниво на информации за своите наоди, бидејќи пилотот не бил дизајниран да „обезбеди цврста јавна транспарентност за системот за надзор на OpenAI“. Тие доставиле внатрешен извештај од 61 страница до OpenAI и очекуваат јавно да споделат повеќе детали за идните вежби. Од OpenAI изјавиле за CNBC дека соработката се надоврзува на нивната долгогодишна посветеност на пионерски пристапи кон тестирање од трети страни и дека наученото го користат за зајакнување на заштитните механизми. Извршниот директор на OpenAI, Сем Алтман, во септември вети дека на независните оценувачи ќе им овозможи „пристап како на вработени“ во компанијата, откако идејата ја предложи извршниот директор на Anthropic, Дарио Амодеи, како дел од неговиот план за забавување на темпото на развој на вештачката интелигенција. Anthropic оттогаш објави договори со организации како Accenture, METR и SecureBio, а OpenAI претхо