Антропик предупредува: вештачката интелигенција наскоро може сама да се копира на домашни уреди
Автор: Редакција на FinPortal.mk ·
Компанијата Антропик предупреди дека малите модели на вештачка интелигенција се на само „неколку месеци“ од развивање на способностите потребни за самостојно реплицирање низ уредите поврзани на интернет во домот. Ова е најновата опомена од оваа лабораторија за вештачка интелигенција за потенцијалните безбедносни ризици од технологијата. Антропик опиша како моделите на вештачка интелигенција би можеле да навлезат во уреди поврзани на интернет, како паметни рерни или Андроид ТВ-кутии, и да ја искористат нивната пресметковна моќ за да работат самите себе и да се шират на други уреди, без да зависат од скапите дата-центри. Според компанијата, ваквиот модел би било „тешко да се исклучи“, бидејќи нема централизирана точка за исклучување. Од Антропик признаваат дека сè уште не постои „целосно одметнат репликатор“. Сепак, агентите „стануваат сè поспособни да ги завршуваат поединечните чекори во синџирот на репликација (и да ги пренесуваат своите адаптации на идните копии од себе)“, се наведува во објавата на компанијата. Најновото истражување на Антропик придонесува кон растечката загриженост за безбедноста на вештачката интелигенција — од можноста моделите да извршуваат сајбер-напади до тоа технологијата да излезе од контрола. Во септември, подобрувањата кај врвните модели поттикнаа предупредувања во целата индустрија за егзистенцијални ризици за човештвото. Раководители и истражувачи од Антропик и од конкурентскиот OpenAI постојано предупредуваа за потенцијалните ризици од сè помоќната вештачка интелигенција, а некои повикаа на построги заштитни мерки и мерки за контрола на темпото на развој на технологијата. Антропик спроведе различни тестови за да утврди дали вештачката интелигенција може сама да се реплицира. Еден од тие тестови вклучуваше пуштање на мал модел на Гугл, Gemma4-26B-A4B, низ мрежа од 15 евтини Андроид ТВ-кутии од непознати марки. Компанијата забележува дека ваквите уреди често имаат слаба безбедност, што би можело да му овозможи на моделот да навлезе во н