Истражувачи на Anthropic и OpenAI предупредуваат: самоподобрувањето на вештачката интелигенција се одвива побрзо од очекуваното
FinPortal.mk · 11.9.2026 г.
Стравот за безбедноста на системите на вештачката интелигенција и нивниот потенцијал да ја уништат човечката популација доби нов замав оваа недела, откако истражувачи од Anthropic и OpenAI јавно изразија загриженост за процесот наречен рекурзивно самоподобрување (RSI). Еван Хубингер, раководител за усогласување во Anthropic, изјави на платформата X дека смета оти постои поголема од 10 отсто веројатност вештачката интелигенција да ги убие сите луѓе во следната деценија, откако негов колега ја напуштил компанијата поради безбедносни стравови. Потоа следеа нови предупредувања од истражувачи во двете компании, што предизвика вистинска лавина на социјалните мрежи. Во одговорот на сопствената објава, Хубингер појасни каде точно лежи неговата загриженост. „Она од што се плашам е суперинтелигенција која произлегува од рекурзивно самоподобрување, бидејќи, како што рековме, тоа се случува побрзо отколку што мислевме“, напиша тој. Рекурзивното самоподобрување е процес во кој самата вештачка интелигенција помага да се подобри процесот на градење нови модели, што потенцијално води кон забрзан раст на способностите — подобри системи создаваат уште подобри системи. Стравот е дека ако вештачката интелигенција преземе контрола врз начинот на кој се обучуваат новите модели, луѓето кои првично ги изградиле тие системи би можеле да ја загубат контролата. Anthropic и OpenAI во последните месеци соопштија дека автономното подобрување на моделите се одвива побрзо од нивните очекувања. Во јуни Anthropic објави на X дека нивните внатрешни податоци покажуваат дека Claude го забрзува развојот на вештачката интелигенција, што е можен пат кон рекурзивно самоподобрување. Во августовска објава на блогот, компанијата наведе дека нејзините инженери во просек испорачуваат осум пати повеќе код по квартал отколку во периодот од 2021 до 2025 година. Винсент Конitzer, професор по компјутерски науки на Универзитетот Карнеги Мелон, изјави дека вештачката интелигенција веќе е на ниво на кое може да внесе н