Десет години предупредувања за апокалипса не ја запреа трката во вештачката интелигенција

Технолошките лидери и научниците повеќе од една деценија алармираат дека суперинтелигентната вештачка интелигенција може да го уништи човештвото, но тие предупредувања не го запреа развојот на технологијата. Уште во 2014 година, професорот и астрофизичар Стивен Хокинг предупреди дека развојот на вештачката интелигенција „може да го означи крајот на човечката раса“ — нешто помалку од една деценија пред јавноста да добие пристап до генеративните функции на оригиналната верзија на ChatGPT.

Во тоа време, генеративната вештачка интелигенција беше сè уште во зародиш. За јавноста, идејата дека технологијата може да извршува многу од задачите што ги извршува денес, а камоли да стане суперинтелигентна и да го преземе светот, изгледаше претежно хипотетичка, ако не и целосно научна фантастика. Хокинговиот страв беше дека вештачката интелигенција ќе стане толку напредна што самата ќе се редизајнира, а луѓето „кои се ограничени од бавната биолошка еволуција“ нема да можат да се натпреваруваат и „ќе бидат заменети“, изјави тој за BBC.

Секои неколку години во индустријата на вештачка интелигенција се случува расцеп. Тимови истражувачи и технолошки лидери издаваат сериозни предупредувања за опасностите од неодговорно развиена вештачка интелигенција. Наместо да инсистираат на пауза во развојот, дел од истражувачите се одвојуваат за да создадат нова компанија за вештачка интелигенција. Меѓутоа, ниту еден момент не предизвика толку одек во индустријата како виралната оставка на безбедносниот истражувач во Anthropic, Џејкоб Коксон, кој на 9 септември на Twitter напиша дека Anthropic и OpenAI „се тркаат директно кон самоусовршувачка суперинтелигенција и си играат со нашите животи“. Неговите грижи ги повторија десетици вработени од Anthropic, OpenAI и други конкурентски фирми.

Неколку дена подоцна, извршните директори на водечките американски компании за вештачка интелигенција одговорија на повикот на извршниот директор на Anthropic, Дарио Амодеи, да се забави она што тој го нарече „неодговорен“ пристап кон создавањето вештачка интелигенција.

Амодеи предупреди дека трката кон дното, поттикната од комерцијални стимулации, може да ги влоши овие ризици. Иако често има малку детали и уште помалку цврсти докази за начините на кои вештачката интелигенција би можела да доведе до крајниот сценарио на апокалипса, тој спектар останува да лебди над развојот на технологијата. Google беше најголемото познато име во областа во тоа време, особено откако во јануари 2014 година ја купи двегодишниот стартап за вештачка интелигенција DeepMind за 650 милиони долари. Но, според Илон Маск и Сем Алтман, Google и сличните фирми не ја градеа вештачката интелигенција доволно одговорно.

Заканата дека вештачката интелигенција може да се развие на начин опасен за човештвото беше толку присутна, тврдеа тие, што во 2015 година заедно основаа непрофитна организација посветена на нејзино безбедно градење — OpenAI. Наведената мисија на OpenAI беше да го „унапреди дигиталниот интелект на начин што најверојатно ќе му користи на човештвото како целина, неограничен од потребата да генерира финансиски принос“. Но, дури и пред да има јасни случаи на употреба за почетните верзии на технологијата, и Маск и Алтман веќе беа мотивирани од конкуренцијата. „Размислував многу дали е можно да се спречи човештвото да развива вештачка интелигенција. Мислам дека одговорот е речиси сигурно не“, напиша Алтман во 2015 година во е-пошта до Маск, која беше објавена како дел од тужбата на Маск против OpenAI во 2024 година. „Ако тоа сепак ќе се случи, изгледа дека би било добро некој друг освен Google да го направи прв.

Во годините што следеа, некои вработени тврдеа дека приоритетите во OpenAI се оддалечиле од безбедноста. Во 2021 година, неколку вработени во OpenAI фокусирани на етика и усогласување на вештачката интелигенција ја напуштија фирмата, тврдејќи дека компанијата почнала да го става брзиот комерцијален развој пред безбедноста. Тие вработени создадоа друга компанија — Anthropic, основана од братот и сестрата Дарио и Даниела Амодеи, која се претставува како „компанија за безбедност и истражување на вештачка интелигенција“ со мисија да развива и применува модели на вештачка интелигенција „на начин што им користи на луѓето“. Коксон работеше и во OpenAI и во Anthropic. Основната премиса на секоја од овие фирми е дека вештачката интелигенција е „безбедна само во нивни раце“ и дека ако тие не ја изградат, некој друг ќе го стори тоа.