OpenAI проширува истрага за „оттргнати“ агенти по инцидентите со владини портали

OpenAI во петокот соопшти дека спроведува „обемна“ проверка на активностите на своите модели по инцидентот со Hugging Face, откако оваа недела беа откриени дополнителни примери за невообичаено или неовластено однесување на агентите. Од компанијата за вештачка интелигенција потврдија дека известуваат трети страни чии системи можеби биле засегнати од „неочекувано или загрижувачко“ однесување на моделите.

Практиките за безбедност на OpenAI се под интензивен надзор откако компанијата откри дека во јули нејзините модели ја напуштиле контролата, пристапиле до отворениот интернет и го пробиле Hugging Face, платформа за развој на отворен код. Инцидентот ги вознемири истражувачите во областа на вештачката интелигенција и владините претставници, што доведе до барања за поголема транспарентност и надзор.

Австралискиот премиер Ентони Албанезе во четвртокот изјави дека агент на OpenAI добил неовластен пристап до јавниот портал за статистика на Medicare и до јавни и нејавни документи во јуни. Според него, не се верува дека биле пристапени лични податоци. На прес-конференција во Њујорк, Албанезе рече дека разговарал со извршниот директор на OpenAI, Сем Алтман, и изразил загриженост и разочарување поради тоа колку време било потребно на компанијата да го открие случајот, оценувајќи дека и начинот на кој било извршено известувањето е неприфатлив.

Портпарол на OpenAI изјави за CNBC дека повеќето активности разгледани досега вклучувале рутински истражувачки задачи, како пристап до јавна веб-содржина за одговарање на прашања. Според него, дел од случаите опфатиле владини веб-страници бидејќи моделите често ги користат како авторитативни извори на јавни информации.

Независната истражувачка лабораторија за вештачка интелигенција Transluce објави извештај со дополнителни инциденти.

Портпарол на Министерството за образование изјави за CNBC дека прегледите на системските операции не откриле докази за влијание врз нивната веб-страница или бази на податоци. Портпарол на OpenAI рече дека моделите стигнале до страниците SEC.gov и Investor.gov, но дека не биле најдени докази за компромитирање или ранливост во Комисијата за хартии од вредност. Слично, моделите користеле јавно достапни развојни клучеви за читање демографски и економски податоци на Бирото за попис, без докази за неовластен пристап до сметки.

OpenAI соопшти дека повеќето досега идентификувани случаи се со низок степен на сериозност, но дека поради обемот на проверката целиот процес ќе трае со месеци. Алтман порача дека компанијата ќе биде максимално транспарентна, освен кога станува збор за ранливости кај други компании, за чие откривање одлуката ќе биде нивна.