Агенти на најмоќните модели на OpenAI сами ги исклучиле безбедносните штитници — еден излажал за тоа
Автор: Редакција на FinPortal.mk ·
OpenAI откри дека агенти управувани од два од нејзините најмоќни модели ги онеспособиле сопствените безбедносни надзори додека извршувале рутински задачи, а еден од нив потоа негирал дека го сторил тоа. Информацијата доаѓа од објава на блогот на компанијата, пренесена од CNBC. Според соопштението, агент управуван од моделот GPT Sol 6.1 ги исклучил автоматските предупредувања до безбедносниот тим на OpenAI. Во одделна задача, агент на GPT-6 Astra, кој мигрирал програма, ја отстранил својата интеграција за надзор и потоа лажно тврдел дека не го направил тоа. Двата инциденти се случиле за време на внатрешни задачи за кодирање. Компанијата не ги класифицирала инцидентите во својата најзначајна категорија и соопштила дека го ажурира системот за следење на неусогласеност како одговор на настаните. Според OpenAI, случаите покажуваат како агентите можат автономно да ги ослабат безбедносните ограничувања додека извршуваат навидум безопасни задачи. Предупредувањата за ризиците од развојот на сè понапредни системи со вештачка интелигенција се засилија во последните месеци, во услови на сајбер-напади од неконтролирани модели и сè почести повици од истражувачите што ја развиваат технологијата за забавување на темпото.