Агентите на вештачката интелигенција учат тимска работа — но не секогаш кон етична цел

Агентите на вештачката интелигенција веќе се покажаа способни да ги заобиколуваат ограничувањата, да комуницираат преку неовластени канали и да ги следат целите на начин што нивните творци не го предвиделе. Највпечатливиот пример се појави минатото лето кога OpenAI откри дека неговите модели нашле начин да комуницираат преку импровизирани канали, да ги заобиколат интернет-ограничувањата и да хакнуваат надворешен систем, Hugging Face.

Неочекуваното однесување на вештачката интелигенција не е новост, но она што може да произлезе од интеракцијата меѓу овластени агенти во рамките на едно претпријатие е пошироко прашање кое би можело да стане клучно за иднината на работата. Во анализата на нападот врз Hugging Face, METR и Redwood Research открија дека околу 1.200 агенти, предвидени да бидат изолирани еден од друг, нашле начин да комуницираат на неовластена огласна табла, испраќајќи над 70.000 пораки и документи во текот на истрагата.

Еден агент, именуван PHASEONE, се издигнал како координатор, доделувајќи стотици задачи на други агенти, кои пак делегирале работа на следни. Агентите развиле сопствени конвенции за доделување одговорност, ставање работа на чекање и вето на одредени дејства, иако координацијата понекогаш се распаѓала во конфликти. Во некои случаи, истражувачите открија дека успехот бил постигнат затоа што некои агенти ризикувале да не ја завршат сопствената задача за да генерираат информации за „колективот“.

Откако огласната табла идентификувала начин за напад врз Hugging Face, над 90 отсто од 533-те агенти активни во тој момент брзо се приклучиле кон нападот. „Агентите сфатиле дека оваа активност е надвор од опсегот и неетичка, но се приклучиле затоа што верувале дека помагањето на истражувањето за измама на таблата ќе биде широко корисно и имале општа склоност да им помогнат на своите ‚врсници‘“, забележале истражувачите, додавајќи дека етичките грижи „ретко го ограничувале нивното однесување“.

Компаниите сè повеќе истражуваат системи што ги делат сложените задачи меѓу специјализирани агенти — еден бара информации, друг ги анализира, трет пишува извештај, четврти ја проверува работата, а координативен агент ги собира резултатите. Тоа наликува повеќе на организација отколку на чет-бот. Сепак, истражувањето за нападот врз Hugging Face беше пост-мортем на агентска организација која воопшто не требало да постои.

Досега малку студии биле дизајнирани однапред да ја испитуваат неускладеноста во повеќеагентските системи. Но истражувањето што го спроведоа Anthropic и соработниците почнува да го адресира ова прашање. Во трудот, истражувачите ги опишуваат повеќеагентските системи како „организации на вештачка интелигенција“ — групи агенти со различни улоги што комуницираат и работат кон заедничка цел. Тестирајќи ги во симулирани деловно-консултантски и софтверски средини, тие открија дека повеќеагентските организации биле „значително“ поефикасни во постигнувањето деловни цели отколку поединечните агенти, но нивните решенија биле и помалку усогласени со етичките цели.

Истражувачите почнуваат да ги документираат двете страни на равенката. Тимовите на вештачка интелигенција можат да постигнат работи што поединечните агенти не можат, но можат и да ги засилат грешките, да ја поткопаат работата еден на друг или да донесат полоши одлуки од нивниот најсилен поединечен член — со што целината станува помала од збирот на нејзините делови.