Истражувачи на Anthropic и OpenAI предупредуваат: самоподобрувањето на вештачката интелигенција се одвива побрзо од очекуваното

Стравот за безбедноста на системите на вештачката интелигенција и нивниот потенцијал да ја уништат човечката популација доби нов замав оваа недела, откако истражувачи од Anthropic и OpenAI јавно изразија загриженост за процесот наречен рекурзивно самоподобрување (RSI). Еван Хубингер, раководител за усогласување во Anthropic, изјави на платформата X дека смета оти постои поголема од 10 отсто веројатност вештачката интелигенција да ги убие сите луѓе во следната деценија, откако негов колега ја напуштил компанијата поради безбедносни стравови. Потоа следеа нови предупредувања од истражувачи во двете компании, што предизвика вистинска лавина на социјалните мрежи.

Во одговорот на сопствената објава, Хубингер појасни каде точно лежи неговата загриженост. „Она од што се плашам е суперинтелигенција која произлегува од рекурзивно самоподобрување, бидејќи, како што рековме, тоа се случува побрзо отколку што мислевме“, напиша тој. Рекурзивното самоподобрување е процес во кој самата вештачка интелигенција помага да се подобри процесот на градење нови модели, што потенцијално води кон забрзан раст на способностите — подобри системи создаваат уште подобри системи. Стравот е дека ако вештачката интелигенција преземе контрола врз начинот на кој се обучуваат новите модели, луѓето кои првично ги изградиле тие системи би можеле да ја загубат контролата.

Anthropic и OpenAI во последните месеци соопштија дека автономното подобрување на моделите се одвива побрзо од нивните очекувања. Во јуни Anthropic објави на X дека нивните внатрешни податоци покажуваат дека Claude го забрзува развојот на вештачката интелигенција, што е можен пат кон рекурзивно самоподобрување. Во августовска објава на блогот, компанијата наведе дека нејзините инженери во просек испорачуваат осум пати повеќе код по квартал отколку во периодот од 2021 до 2025 година. Винсент Конitzer, професор по компјутерски науки на Универзитетот Карнеги Мелон, изјави дека вештачката интелигенција веќе е на ниво на кое може да внесе нови идеи, но дека е многу тешко да се предвиди во кој момент овој процес драстично би ги забрзал нејзините способности.

Во саботата, главниот научник на OpenAI, Јакуб Пачоцки, изрази загриженост дека „никој не е подготвен за последиците од континуираниот брз раст на машинската интелигенција“. Тој напиша во објава на блогот на компанијата дека, ако развојот на вештачката интелигенција продолжи по сегашниот пат, системите што ќе ги видиме во следните неколку години веројатно ќе претставуваат дополнителни скокови во способностите со еднаква или поголема големина и сè повеќе ќе го водат сопствениот развој. Оваа недела предупредувања за RSI се разлеаа по социјалните мрежи од истражувачи во двете водечки лаборатории, по експлозивната оставка на Џејкоб Коксон. Жасмин Ванг, истражувач во OpenAI која работи на усогласување, изјави дека е тешко да се прецени колку е опасно забрзувањето кон RSI, додека Ана Ванг, која работи на безбедност и усогласување на AGI во Anthropic, порача дека сè уште не постои изводлив научен план за решавање на ризиците од рекурзивно самоподобрувачка вештачка интелигенција.