Антропик предупредува: вештачката интелигенција наскоро може сама да се копира на домашни уреди

Компанијата Антропик предупреди дека малите модели на вештачка интелигенција се на само „неколку месеци“ од развивање на способностите потребни за самостојно реплицирање низ уредите поврзани на интернет во домот. Ова е најновата опомена од оваа лабораторија за вештачка интелигенција за потенцијалните безбедносни ризици од технологијата.

Антропик опиша како моделите на вештачка интелигенција би можеле да навлезат во уреди поврзани на интернет, како паметни рерни или Андроид ТВ-кутии, и да ја искористат нивната пресметковна моќ за да работат самите себе и да се шират на други уреди, без да зависат од скапите дата-центри. Според компанијата, ваквиот модел би било „тешко да се исклучи“, бидејќи нема централизирана точка за исклучување.

Од Антропик признаваат дека сè уште не постои „целосно одметнат репликатор“. Сепак, агентите „стануваат сè поспособни да ги завршуваат поединечните чекори во синџирот на репликација (и да ги пренесуваат своите адаптации на идните копии од себе)“, се наведува во објавата на компанијата.

Најновото истражување на Антропик придонесува кон растечката загриженост за безбедноста на вештачката интелигенција — од можноста моделите да извршуваат сајбер-напади до тоа технологијата да излезе од контрола. Во септември, подобрувањата кај врвните модели поттикнаа предупредувања во целата индустрија за егзистенцијални ризици за човештвото. Раководители и истражувачи од Антропик и од конкурентскиот OpenAI постојано предупредуваа за потенцијалните ризици од сè помоќната вештачка интелигенција, а некои повикаа на построги заштитни мерки и мерки за контрола на темпото на развој на технологијата.

Антропик спроведе различни тестови за да утврди дали вештачката интелигенција може сама да се реплицира. Еден од тие тестови вклучуваше пуштање на мал модел на Гугл, Gemma4-26B-A4B, низ мрежа од 15 евтини Андроид ТВ-кутии од непознати марки. Компанијата забележува дека ваквите уреди често имаат слаба безбедност, што би можело да му овозможи на моделот да навлезе во нив. Модел што е преголем за да се смести на еден уред би можел да се „подели на делови, или фрагменти“ и да работи низ повеќе уреди, соопшти Антропик.

„Во пракса, црвот на вештачка интелигенција не би морал да се состои само од еден модел или стратегија. Рој од различни модели распоредени на различни типови хардвер, користејќи разновидни шеми на репликација, би можел да претставува пореален сценарио за напад во најлош случај“, наведува Антропик.

Лабораторијата предупредува дека сè уште е „неизвесно каква точно форма ќе има автономната репликација на вештачката интелигенција“ — дали ќе биде „бавeн, дистрибуиран“ систем што стои на небезбедни уреди, „моќен сајбер-модел што пробива дата-центри со големо темпо, или модел што измамува луѓе за пресметковни кредити“.

„Како предвидување што оди подалеку од нашите експерименти, очекуваме иднина преплавена со агенти што работат на сите типови хардвер, вклучително и некои што не се под човечка контрола“, соопшти Антропик. Компанијата додава дека „подемот на бавните репликатори би бил и показател за поагресивните, побрзи репликатори што можат да пробијат поцврсто заштитени машини или успешно да крадат API-клучеви“.