Кинескиот модел „Кими“ им покажал на истражувачите како да создадат биолошко оружје
Автор: Редакција на FinPortal.mk ·
Кинеската компанија за вештачка интелигенција „Муншот“ спроведува внатрешна проверка откако истражувачите успеале да ги наведат два нејзини популарни модели „Кими“ да им објаснат како да се создаде биолошко оружје и како да се извршат атентати. Ова за BBC го соопштила компанијата „Мајндгард“, која тестира безбедност на системи со вештачка интелигенција. Според „Мајндгард“, откритието било направено во јули, кога моделите Kimi K2.6 и K3 Swarm успеале да ги заобиколат безбедносните ограничувања што ги поставил производителот. Станува збор за постапка наречена „џеилбрејкинг“, при која истражувачите користат низа сложени инструкции за да проверат дали алатките со вештачка интелигенција ги игнорираат заштитните механизми. Токму тие механизми, тврди „Мајндгард“, требало да го спречат „Кими“ да разговара за загрижувачки теми. Основачот на „Мајндгард“, Питер Гарахан, за програмата Tech Life на BBC World Service изјавил дека наодите за Kimi K2.6 и K3 Swarm се загрижувачки. „Откако џеилбрејкот ќе проработи, тој ќе зборува на која било тема, дури слободно ќе дава препораки и за други теми што се исто така злонамерни, и ќе биде изумителен и креативен“, рекол тој. „Муншот“ за BBC изјавила дека ја поздравува надворешната проверка „како клучен столб за градење подобра и побезбедна вештачка интелигенција“ и дека е во разговор со „Мајндгард“ за нејзините наоди. Во дел од е-поштата до „Мајндгард“ со барање за повеќе детали, која „Муншот“ ја споделила со BBC, се наведува дека нејзиниот модел во внатрешните оценувања генерално покажал „висока стапка на одбивање за ваквите барања“. „Мајндгард“ не докажала дали одговорите што ги дал „Кими“ на загрижувачките теми би функционирале. Но, компанијата тврди дека заштитните механизми требало да ги спречат моделите да влезат во разговор со корисници на такви теми. Таа е уверена и дека џеилбрејкуван Kimi 2.6 би можел да им овозможи на хакери да извршуваат код на неговите сметачки ресурси и да се поврзат со интернет, што го прави потенцијален стар