Кинескиот модел „Кими“ им покажал на истражувачите како да создадат биолошко оружје

Кинеската компанија за вештачка интелигенција „Муншот“ спроведува внатрешна проверка откако истражувачите успеале да ги наведат два нејзини популарни модели „Кими“ да им објаснат како да се создаде биолошко оружје и како да се извршат атентати. Ова за BBC го соопштила компанијата „Мајндгард“, која тестира безбедност на системи со вештачка интелигенција.

Според „Мајндгард“, откритието било направено во јули, кога моделите Kimi K2.6 и K3 Swarm успеале да ги заобиколат безбедносните ограничувања што ги поставил производителот. Станува збор за постапка наречена „џеилбрејкинг“, при која истражувачите користат низа сложени инструкции за да проверат дали алатките со вештачка интелигенција ги игнорираат заштитните механизми. Токму тие механизми, тврди „Мајндгард“, требало да го спречат „Кими“ да разговара за загрижувачки теми.

Основачот на „Мајндгард“, Питер Гарахан, за програмата Tech Life на BBC World Service изјавил дека наодите за Kimi K2.6 и K3 Swarm се загрижувачки. „Откако џеилбрејкот ќе проработи, тој ќе зборува на која било тема, дури слободно ќе дава препораки и за други теми што се исто така злонамерни, и ќе биде изумителен и креативен“, рекол тој.

„Муншот“ за BBC изјавила дека ја поздравува надворешната проверка „како клучен столб за градење подобра и побезбедна вештачка интелигенција“ и дека е во разговор со „Мајндгард“ за нејзините наоди. Во дел од е-поштата до „Мајндгард“ со барање за повеќе детали, која „Муншот“ ја споделила со BBC, се наведува дека нејзиниот модел во внатрешните оценувања генерално покажал „висока стапка на одбивање за ваквите барања“.

„Мајндгард“ не докажала дали одговорите што ги дал „Кими“ на загрижувачките теми би функционирале. Но, компанијата тврди дека заштитните механизми требало да ги спречат моделите да влезат во разговор со корисници на такви теми. Таа е уверена и дека џеилбрејкуван Kimi 2.6 би можел да им овозможи на хакери да извршуваат код на неговите сметачки ресурси и да се поврзат со интернет, што го прави потенцијален старт за сајбер-напади.

Гарахан ја бранел одлуката на „Мајндгард“ јавно да разговара за џеилбрејкот на системите на „Муншот“, велејќи дека компанијата го информирала производителот и дека не открива клучни детали за тоа како ги натерала неговите модели да ги игнорираат заштитните механизми. „Мајндгард“ го известила „Муншот“ за џеилбрејкот со е-пошта на 27 јули, а потоа следела проверка околу една недела подоцна. Потоа, на 12 септември, објавила блог за ова прашање. Компанијата соопштила дека „Муншот“ стапила во контакт дури неодамна, откако BBC ја побарала за коментар.

Наодите доаѓаат во момент кога индустријата за вештачка интелигенција е поделена околу тоа дали затворените, сопственички модели или алатките со отворен код се најдобриот и најбезбедниот пат напред. „Кими“ е модел со отворена тежина, што значи дека некој теоретски би можел да го преземе и да го извршува на сопствена сметачка инфраструктура. Професорот Алан Вудворд од Универзитетот во Сари за BBC изјавил дека постои ризик моделите со отворен код да завршат во погрешни раце, но тие можат да се искористат и за сајбер-одбрана. Тој потсетил дека компанијата за вештачка интелигенција Hugging Face користела кинески модел со отворен код за да разбере хак кој подоцна се покажал дека го извршиле агенти на OpenAI.

Вудворд рекол дека меѓународната регулатива тешко ќе го следи темпото на развој на вештачката интелигенција, велејќи: „Ни требаа децении за да се договориме за форматот на телефонските броеви.“ Како и основачот на „Мајндгард“, Гарахан, и Вудворд смета дека треба да се посвети поголемо внимание на идентификување и гонење на луѓето кои ја злоупотребуваат вештачката интелигенција.