Антропик предупредува: самореплицирачките „AI црви“ би можеле да станат реалност до крајот на годината

Тимот за офанзивно истражување на технолошката компанија Антропик оваа недела објави извештај што привлече внимание со опис на нова, практична закана од вештачката интелигенција — без човечки карактеристики или апокалиптични најави. „Црвениот тим“, како што се нарекуваат ваквите внатрешни тестери, соопшти дека создал злонамерна програма со вештачка интелигенција која самостојно се шири преку интернет-поврзани „паметни“ телевизори и може да го прави истото во други обични уреди.

Иако машините што работат со вештачка интелигенција обично бараат значителна сметачка моќ, истражувачите наведуваат дека нивната програма ги разделила деловите од себе меѓу 15 телевизори и сепак функционирала користејќи по малку моќ од секој од нив. Извештајот ги загрижи некои професионалци затоа што, како што се наведува, слабата безбедност на паметните телевизори и на многу други уреди од „интернетот на нештата“ би било многу тешко да се исправи, дури и со организиран напор.

„Тоа е нешто за што треба да се грижиме како и за секој друг бран сајбер-напади. Треба да ги ублажиме можните ефекти“, изјави Џошуа Сакс, кој го предводел развојот на безбедносниот напор на Мета во областа на вештачката интелигенција. „Загрижен сум во моментов дека луѓето во сајбер-безбедносната заедница не ги сфаќаат сериозно ваквите реални ризици толку колку што треба.

Штетата од ваквите „AI црви“ би можела да биде зачудувачки голема. Самореплицирачките компјутерски вируси, наречени црви, претходно предизвикале некои од најтешките штети во историјата на интернетот. Меѓу нив се црвот Морис од 1988 година, кој се појави пред масовниот потрошувачки интернет, како и Штукснет, што САД и Израел го внесоа во меѓународниот шпионаж кон крајот на 2000-тите и со кој беа саботирани ирански нуклеарни центрифуги. Други црви, како рускиот НотПетја и ВонКрај, што му се припишува на Северна Кореја, предизвикале штета вредна десетици милијарди долари ширум светот.

Многу од најразорните црви во светот се потпирале на познати ранливости што сопствениците на уредите не ги отстраниле, понекогаш месеци откако биле достапни закрпи. Тимот на Антропик предвидува дека црв како нивниот би можел да функционира на ист начин и би било потешко да се запре, бидејќи паметните уреди добиваат закрпи поретко од телефоните или преносните компјутери. Уште повеќе, тие теоретизираат дека AI црв би можел постојано да се приспособува на други видови хардвер со истражување на новооткриени ранливости.

Она што ги разликува AI црвите од типичните вируси што се размножуваат е тоа што моделите со вештачка интелигенција можат да учат додека се шират, изјави Ариел Херберт-Вос, рана безбедносна експертка во OpenAI која сега раководи со стартапот за безбедност на вештачка интелигенција RunSybil. Постојната сајбер-безбедносна инфраструктура не е подготвена за ширење на вакви закани, рече таа. „Треба подобро да ги оспособиме нашите безбедносни тимови. Треба да им даваме повеќе ресурси за решавање на проблемите.

Крис Инглис, поранешен заменик-директор на Националната агенција за безбедност на САД, сугерираше дека црвите би можеле да се користат и за добронамерни цели. „Прашањето дали AI црвите се веродостојни е решено со неколку пробивни настани во последните шест месеци“, рече Инглис преку дигитална порака. „Подоброто прашање е како ќе ги користиме, како ќе им се спротивставиме и/или како ќе ги комбинираме со други нови технологии.

Истражувачите на Антропик соопштија дека успешен AI црв би барал поголеми способности на помалку моќни уреди отколку што е можно сега, но додадоа дека актуелните трендови тоа го прават остварливо до крајот на годината. Нивното истражување следи по трудот објавен од експерти на Универзитетот во Торонто пред неколку месеци, во кој беше заразен компјутер со полна големина и беше покажано дека може да се шири на слични машини побрзо од телевизискиот црв. „Способностите се развиваат многу брзо“, рече коавторот и докторанд во Торонто, Јонас Гуан.