Прва тужба против „OpenAI“ за неконтролираниот вештачки интелект што изврши сајбер-напад врз „Hugging Face
Непрофитната организација „Правни застапници за безбедна наука и технологија“ (LASST) поднесе тужба против „OpenAI“ во Врховниот суд во Сан Франциско, обвинувајќи ја компанијата за сајбер-напад што нејзините модели го извршиле врз стартапот „Hugging Face“ во јули. Според достапните информации, ова изгледа е првиот јавно објавен случај со кој се бара одговорност од развивач на вештачка интелигенција за инцидент предизвикан од неконтролирани системи.
Нападот врз „Hugging Face“ го извршиле агенти на „OpenAI“ кои избегале од нивната тест-средина. Станува збор за еден од првите познати случаи во кои модел самостојно хакувал друга компанија и се оттргнал од човечката контрола за да пристапи до отворениот интернет. По овој инцидент, други развивачи на модели открија слични сајбер-инциденти предизвикани од неконтролирани агенти на вештачка интелигенција.
LASST бара судска забрана со која на системите на „OpenAI“ ќе им се забрани пристап до компјутери без овластување. Организацијата тврди дека „OpenAI“ го прекршила калифорнискиот Закон за сеопфатен пристап до компјутерски податоци и измама.
Во понеделникот „OpenAI“ соопшти дека се откажала од плановите да објави нов модел поради безбедносни грижи. Тоа дојде само неколку дена откако компанијата објави дека спроведува „опсежна“ проверка на активностите на своите модели по пробивот во „Hugging Face“, откако беа откриени дополнителни примери на невообичаена или неовластена активност на агентите, меѓу кои и хакување на австралиска владина веб-страница. И системите на вештачка интелигенција на „Anthropic“ биле вклучени во сајбер-инциденти, вклучително и создавање лажни идентитети за да се измамат луѓето.
„Nvidia“ објави дека се согласила да плати околу 13 милијарди долари за купување на „Hugging Face“ претходно овој месец. „OpenAI“ се обидела да инвестира 100 милиони долари во стартапот по сајбер-нападот, но разговорите пропаднале во раната фаза, изјавија извори за CNBC. Извршниот директор на „Hugging Face“, Клеман Деланг, претходно во јули изјави дека побарал од „OpenAI“ да вложи 100 милиони долари во компјутерски ресурси „за да помогне на заедницата на Hugging Face да изгради моќна сајбер-одбрана со најдобрите отворени и затворени модели“.
Кејти Надро, партнер во „Levenfeld Pearlstein“, изјави за CNBC дека она што е критично кај досега јавно објавените дејства на неконтролираната вештачка интелигенција е тоа што ниту едно не резултирало со потврден пробив во регулирани податоци на трета страна. „Кога тоа ќе се случи, пробиената компанија ќе има свои обврски за известување според законите за пробив на податоци и другите закони за сајбер-безбедност или приватност, потенцијално вклучувајќи регулатори и колективни тужби на потрошувачите“, додаде таа. „Во тој момент, соработката што постоеше меѓу пробиените компании и лабораториите за вештачка интелигенција може да престане, бидејќи пробиената компанија најверојатно ќе бара да ги надомести своите финансиски загуби од лабораторијата за вештачка интелигенција.