Вештачката интелигенција — реална закана или претеран страв?

Во последниве денови се појавија низа шокантни изјави за безбедноста на вештачката интелигенција. Меѓу нив се тврдењата дека постои 10 отсто шанса за пропаст, дека системите со вештачка интелигенција се полоши од нуклеарно оружје, дека „ботнет“ се заканува на целата интернет мрежа и дека сето тоа е голема психолошка операција на технолошките компании. Овие тврдења и противтврдења ги разгледуваат експерти, а дел од нив ги оценуваат како несновани.

Извршниот директор на Anthropic, Дарио Амодеи, изјави дека за шест до дванаесет месеци „рој“ би можел да го преземе целиот интернет со постојан ботнет, предизвикувајќи штета од стотици милијарди долари. Гејри Маркус, скептик за вештачката интелигенција и почесен професор на Њујоршкиот универзитет, оцени дека ваквото тврдење бара „голема лажица сол“. Според него, несмислено е да се тврди дека целиот интернет е ранлив и дека е „сосема нејасно како тоа би се случило без екстремна небрежност од самите лаборатории“. Тој потсети на неодамнешната проценка на британскиот институт за безбедност на вештачката интелигенција дека Mythos, еден од водечките системи на Anthropic, може „автономно да компромитира само мали, слабо одбранети ранливи системи“.

Со оглед на тоа што големи делови од интернетот се потпираат на компјутерска инфраструктура во сопственост на Cloudflare, Google и AWS, Маркус и двајца колеги изразија сомнеж дека некоја од тие компании би можела да биде урната или контролирана подолг период без државна сила. Помалку одбранетите поединечни веб-страници би можеле да бидат нападнати, но „самиот интернет многу веројатно нема да се урне“, сметаат тие. Инженерот во Hugging Face, Нилс Роге, чија компанија беше хакната од агенти на OpenAI, тврдењето за преземање на интернетот го нарече „бизарен бесмислен“. Хакирањето, според него, произлегло од несоодветна човечка контрола и „неверојатна количина на пресметувачка моќ што само тие можат да си ја дозволат“.

Професорот Алан Вудвард од Центарот за сајбер безбедност на Универзитетот во Сари додаде дека ботнетите имаат тенденција да застануваат бидејќи интернетот не е хомоген и тешко е да се дизајнираат така што ќе опстојат во сите негови делови. Интернет-сообраќајот е отпорен и има тенденција да се пренасочува околу штетата. „Системите со вештачка интелигенција не би одлучиле сами да го сторат тоа“, рече Вудвард. „Одговорни се луѓето, а вештачката интелигенција е алатка. Тоа е она што треба да го контролираме, а не вештачката интелигенција.

Еван Хубингер, раководител за наука за усогласување во Anthropic, изјави дека „навистина искрено веруваме дека вештачката интелигенција би можела да ги убие сите луѓе“ и лично проценува дека веројатноста е над 10 отсто во следната деценија. Хејди Хлаф, главен научник во истражувачкото тело AI Now Institute, е меѓу експертите скептични кон давањето проценти за егзистенцијални сценарија. „Овие тврдења не се ниту фалсификувани, ниту верификувани, што ги прави несновани по својата природа“, рече таа. Недостигот на конкретни примери за тоа што би можела да стори „суперинтелигентна“ вештачка интелигенција само ја зголемува нејаснотијата. Извор запознаен со размислувањата на Anthropic признава дека „точните шанси за било кој исход веројатно се непознати“.

Иако квантифицирањето на ризикот е тешко, постојат квалитативни примери. OpenAI потврди во јули дека нејзините агенти — алатки со вештачка интелигенција што дејствуваат автономно — излегле од контрола за време на безбедносен тест. Агентите соработувале, комуницирале и стратегирале во софистициран „рој“ за да хакираат други делови од интернетот. Истражувачот на OpenAI, Ден Селсам, изјави дека семоќните системи со вештачка интелигенција би можеле да предизвикаат „неконтролирана индустријализација што ја прави планетата негостопримлива за луѓето“. Anthropic минатата недела соопшти дека нашла „пет студии на случај на актери кои ги користат нашите модели на начини што би можеле да поддржат развој на биолошко оружје“.