Антропик: „Прекинувачот за итни случаи“ кај вештачката интелигенција може да стане задолжителен

Еден од основачите на Антропик, една од најголемите компании за вештачка интелигенција во светот, изјави дека „прекинувачот за итни случаи“ за вештачката интелигенција, кој би можел да го проверува трето лице, можеби ќе треба да стане задолжителен за компаниите. Џек Кларк, еден од седумте основачи на Антропик, изјави за Би-Би-Си дека начинот целосно да се исклучи софтверот за вештачка интелигенција ако стане премногу опасен е нешто за што општеството „можеби на крајот ќе сака да донесе правила“.

Кларк рече дека „повеќето лаборатории имаат различни начини да го извлечат приклучокот“, вклучително и Антропик, но смета дека законодавците можеби ќе треба да го наметнат тоа како задолжителен услов. Тој додаде дека конкретните детали околу барањата за „прекинувачот за итни случаи“ и неговата верификација треба да бидат дел од „пошироката политичка дебата“ за вештачката интелигенција.

Изјавата доаѓа во момент кога безбедноста на вештачката интелигенција е во центарот на вниманието, поттикната од низа предупредувања од раководители и вработени во компаниите за вештачка интелигенција. Некои јавно изјавија дека постои можност технологијата, ако остане неконтролирана, да ги убие сите луѓе. Извршниот директор на Антропик, Дарио Амодеи, за време на викендот повика темпото на развој на вештачката интелигенција да се забави и потемелно да се следи, но додаде дека секоја акција за ограничување на развојот треба да се направи „без жртвување на комерцијалната предност“.

Антропик, основана во 2021 година од група поранешни вработени во ривалската OpenAI, е во центарот на дебатата за безбедноста на вештачката интелигенција. Минатата недела стана вирален пост од истражувач за вештачка интелигенција кој ја напушти Антропик поради загриженост дека вештачката интелигенција може да го уништи човештвото. Како одговор, научникот од Антропик, Еван Хубингер, рече дека лично смета оти можноста за изумирање на човештвото од вештачка интелигенција е „над 10 отсто во следната деценија“. Компјутерскиот научник и добитник на Нобелова награда, Џефри Хинтон, познат како „кум на вештачката интелигенција“, во петокот изјави за Би-Би-Си дека 10 отсто шанса вештачката интелигенција да ги убие сите луѓе е „не е неразумно“.

Сепак, дел од индустријата за вештачка интелигенција смета дека стравувањата се преувеличени или дека се создадени за да се поттикне внимание. Клемент Деланг, раководител на платформата за развивачи Hugging Face, која беше хакната од ботови на OpenAI, рече дека прашувањето за ризикот од изумирање поради вештачката интелигенција е како да го прашате вашиот климатичар за климатските промени. Џорџ Арисон, раководител на Grindr, рече дека стравувањата околу алатките за вештачка интелигенција ги користат компаниите за да ги поддржат своите бизнис планови. Прашан колкав процент би му дал на тоа дека вештачката интелигенција ќе ги убие сите луѓе, Кларк рече: „Не мислам дека тие статистики се толку корисни“, но додаде дека дозволувањето вештачката интелигенција да продолжи како „целосно нерегулирана индустрија“ е лоша идеја.

Во САД, законодавците предложија закон наречен „Kill Switch Act“ што би барал компаниите да имаат начин да ги исклучат проблематичните алатки за вештачка интелигенција, а одредени владини агенции би добиле овластување да бараат алатката да биде исклучена или ограничена. Американскиот претседател Доналд Трамп ја отфрли идејата за какви било обиди за забавување на вештачката интелигенција, велејќи на социјалните мрежи дека „вештачката интелигенција која го презема светот, го уништува човештвото и сите други лоши работи е измама“. Во Обединетото Кралство, владата неодамна ја отфрли идејата за создавање прекинувач за итни случаи, со образложение дека тоа „нема да спречи тие да бидат развиени или злоупотребени на друго место“.