Скептицизам во Силициумската Долина кон предупредувањата за опасноста од вештачката интелигенција

Секој септември, елитата на извршни директори од Силициумската Долина се собира во хотелот „Палас" во Сан Франциско на конференција организирана од инвестициската банка Голдман Сакс, со цел да ги привлечат инвеститорите. Оваа недела, меѓу разговорите за раст и потенцијални приноси, технолошките титани се соочија со ненадејната оставка на истражувачот од Anthropic, Џејкоб Коксон. Коксон, 27-годишник кој претходно работеше во OpenAI, а потоа се приклучи на нејзината главна конкурентка Anthropic, во вторникот изјави дека луѓето кои градат вештачка интелигенција (ВИ) веруваат дека технологијата може да го уништи човештвото. „Тие си играат со нашите животи", рече тој, „наскоро ова ќе бидат натчовечки системи кои можат да хакираат сè".

Коксон не е првиот инсајдер во областа на ВИ кој јавно алармира. Во последниве години имаше низа високопрофилни оставки и од Anthropic и од OpenAI поради очигледни безбедносни грижи, а некои сегашни вработени во Anthropic дури ги повторија неговите ставови. „Навистина искрено веруваме дека ВИ може да ги убие сите луѓе! Лично мислам дека веројатноста е поголема од 10% во следната деценија", објави на X тим-лидерот во Anthropic, Еван Хубингер. Иако Коксон експлицитно наведе дека неговите предупредувања „не се маркетинг", дел од директорите и инвеститорите во Силициумската Долина реагираа со скептицизам на неодамнешната низа вакви предупредувања.

Anthropic и OpenAI наводно се подготвуваат за потенцијално рекордни првични јавни понуди (IPO), а некои во технолошкиот сектор сугерираат дека најновите остри коментари за опасноста од ВИ можеби се дизајнирани да создадат хипе, сигнализирајќи ја моќта на овие производи. Шефот на Anthropic, Дарио Амодеи, се најде на удар на критики поради изјавата дека ВИ технологијата може да уништи половина од почетните канцелариски работни места и дека ќе „го тестира тоа што сме ние како вид". Еден од говорниците на конференцијата, извршниот директор на Grindr, Џорџ Арисон, изјави за BBC дека коментарите на Коксон и другите оваа недела се показател за „антицивилизациски светоглед во Anthropic". Тој ги нарече „опасни" и рече дека го поттикнале да им наложи на некои инженери во апликацијата за запознавање на LGBTQ+ заедницата да престанат да ја користат технологијата на Anthropic.

„Неодговорно е за нас како чувари на парите на нашите акционери да се потпираме на бизнис што го прави она што го прави оваа компанија, во однос на нејзините јавни изјави", рече тој. „Можеби тие навистина веруваат во тоа", додаде Арисон. „Или може да тврдите дека го велат тоа затоа што е одличен начин да се придобие поголема инвеститорска поддршка, бидејќи единствениот начин да се оправдаат овие вреднувања е всушност да се тврди: 'Ќе ја преземам секоја индустрија и секое работно место, и мојата ВИ ќе ја работи целата таа работа.'" Anthropic беше вреднувана на 965 милијарди долари (713 милијарди фунти) во последниот круг на собирање средства порано оваа година. BBC побара одговор од Anthropic за овие изјави.

Шефот на Nvidia, Џенсен Хуанг, исто така ги коментираше изјавите на Коксон пред публиката на конференцијата, според повеќе луѓе од групата кои разговараа со BBC. Тие рекоа дека тој ги отфрлил како невистинити. Хуанг претходно изјави дека идејата ВИ „да биде крај на човештвото" е „целосна бесмислица". Иако тој може да има деловен интерес за бумот на ВИ, неговите коментари го одразуваат растечкиот отпор во Силициумската Долина кон егзистенцијалните предупредувања од сегашни и поранешни вработени. Некои критичари дури го обвинија Anthropic за ширење страв со надеж дека тоа ќе поттикне регулаторен притисок што може да ја исклучи конкуренцијата и да ја остави неа и OpenAI со дуопол во секторот. Бред Герстнер, кој е на чело на инвестициската фирма Altimeter Capital, објави слики од Хуанг од конференцијата и го обвини Коксон за „смешна хипербола". Во петокот се вклучи и извршниот директор на ВИ платформата Hugging Face, Клемент Деланг. „Извинете, но да го прашате Џејкоб за ризикот од изумирање на ВИ е како да го прашате вашиот мајстор за клима уред за климатските промени", напиша тој на X. „Не велам дека тоа е нужно неинтересно или само по себе погрешно, но да ги задржиме работите во перспектива". И Герстнер и Деланг беа повнимателни во саботата откако беше објавен предлогот на Амодеи.