Поранешен истражувач на Гугл ДипМајнд си даде отказ: „Вештачката интелигенција може да нè уништи

Поранешниот истражувач на Гугл ДипМајнд, Билал Чугтаи, објави дека си дал отказ од лабораторијата за вештачка интелигенција поради страв дека технологијата „има потенцијал да нè убие сите“ и дека човештвото „можеби го губи времето за да го избегне овој исход“. Во изјавата што ја објави на платформата X и на други мрежи, тој напиша дека бил сведок на развојот на вештачката интелигенција од прва рака и дека е „исклучително загрижен од стандардната траекторија на оваа технологија“.

Чугтаи рече дека неодамна дал отказ од Гугл ДипМајнд, каде што работел на истражување за безбедност и усогласување на вештачката интелигенција. Неговите коментари доаѓаат откако поранешниот истражувач на Антропик, Џејкоб Коксон, повторно го актуализираше фокусот врз безбедноста на вештачката интелигенција со својата објава што стана вирална, во која предупреди дека вработените во компаниите за вештачка интелигенција приватно стравуваат дека технологијата може да го уништи човештвото. Додека некои во индустријата го критикуваа Коксон, други во Антропик и OpenAI ги повторија неговите загрижености.

Во текот на викендот, извршниот директор на Антропик, Дарио Амодеи, изјави дека водечките лаборатории за вештачка интелигенција треба „да го темпираат“ развојот, користејќи го времето за унапредување на усогласувањето. Извршниот директор на SpaceX, Илон Маск, и извршниот директор на OpenAI, Сем Алтман, подоцна изразија согласност со тој поширок став.

Чугтаи напиша дека усогласувањето — работата за обезбедување дека целите и однесувањето на системите за вештачка интелигенција се усогласени со нивните инструкции — се покажало како тешко. Според него, сегашното разбирање за тоа како да се обучуваат системи што длабоко го сакаат она што го сакаме е „исклучително рудиментарно“. Тој предупреди и дека не сме на пат да го решиме усогласувањето навреме, бидејќи способностите на вештачката интелигенција се подобруваат многу побрзо од нашето разбирање за усогласувањето.

Чугтаи наведе случаи како што е хакирањето на Hugging Face од страна на неконтролирани агенти на OpenAI како потсетник за ризиците од неусогласени модели, особено ако компаниите можат да изградат системи што ја надминуваат човечката интелигенција. Според него, „можно е“ компаниите да изградат такви системи што „далеку ги надминуваат човечките способности во секоја област“ во „следните неколку години“, но тој не е уверен дека тие системи ќе го прават она што ние го сакаме.

Неговиот профил на LinkedIn покажува дека работел како инженер-истражувач за Гугл ДипМајнд во Лондон година и половина. Претставник на Гугл не одговори веднаш на барањето за коментар од Business Insider. По отказот, Чугтаи се приклучи на BlueDot Impact, непрофитна организација за безбедност на вештачката интелигенција со седиште во Лондон, која соопшти дека неодамна собрала 25 милиони долари и се шири во Сан Франциско. „Возбудени сме што го пречекуваме Билал во тимот на BlueDot“, напиша компанијата на X, цитирајќи ја неговата објава за отказот.