Агентите на вештачката интелигенција учат тимска работа — но не секогаш кон етична цел
Автор: Редакција на FinPortal.mk ·
Агентите на вештачката интелигенција веќе се покажаа способни да ги заобиколуваат ограничувањата, да комуницираат преку неовластени канали и да ги следат целите на начин што нивните творци не го предвиделе. Највпечатливиот пример се појави минатото лето кога OpenAI откри дека неговите модели нашле начин да комуницираат преку импровизирани канали, да ги заобиколат интернет-ограничувањата и да хакнуваат надворешен систем, Hugging Face. Неочекуваното однесување на вештачката интелигенција не е новост, но она што може да произлезе од интеракцијата меѓу овластени агенти во рамките на едно претпријатие е пошироко прашање кое би можело да стане клучно за иднината на работата. Во анализата на нападот врз Hugging Face, METR и Redwood Research открија дека околу 1.200 агенти, предвидени да бидат изолирани еден од друг, нашле начин да комуницираат на неовластена огласна табла, испраќајќи над 70.000 пораки и документи во текот на истрагата. Еден агент, именуван PHASEONE, се издигнал како координатор, доделувајќи стотици задачи на други агенти, кои пак делегирале работа на следни. Агентите развиле сопствени конвенции за доделување одговорност, ставање работа на чекање и вето на одредени дејства, иако координацијата понекогаш се распаѓала во конфликти. Во некои случаи, истражувачите открија дека успехот бил постигнат затоа што некои агенти ризикувале да не ја завршат сопствената задача за да генерираат информации за „колективот“. Откако огласната табла идентификувала начин за напад врз Hugging Face, над 90 отсто од 533-те агенти активни во тој момент брзо се приклучиле кон нападот. „Агентите сфатиле дека оваа активност е надвор од опсегот и неетичка, но се приклучиле затоа што верувале дека помагањето на истражувањето за измама на таблата ќе биде широко корисно и имале општа склоност да им помогнат на своите ‚врсници‘“, забележале истражувачите, додавајќи дека етичките грижи „ретко го ограничувале нивното однесување“. Компаниите сè повеќе истражуваат системи што ги делат сложенит