Anthropic воведува забрана за сурово однесување кон нејзините AI системи

Компанијата Anthropic, која стои зад AI-моделот Claude, објави дека ја ажурира својата политика за користење со цел да им забрани на корисниците „постојано и непотребно“ навредливо однешување кон нејзините AI-алатки. Според соопштението од четвртокот, компанијата ќе им дозволи на своите системи да ги прекинат интеракциите во случаи кога луѓето се однесуваат „сурово“ — нешто што, како што наведуваат, досега го правеле во „ретки“ случаи.

Новата одредба ќе биде вклучена во списокот на забрането однесување, кој веќе опфаќа малтретирање на други лица, поттикнување на самоповредување и создавање на интимни слики без согласност. Од Anthropic појаснуваат дека политиката ќе се применува само во „екстремни случаи“ на повторлива злоупотреба, а нема да важи за вообичаените изрази на корисничко незадоволство, несогласување, мрачни креативни теми или тестирање и истражување на моделите. Сепак, останува нејасно што точно компанијата смета за „навредливо или сурово однесување“ кон своите модели.

Одлуката предизвика широка реакција на социјалните мрежи, каде што беа споделени снимки од новата политика. Дел од коментаторите ја пофалија како чекор кон поттикнување на добри манири или кон „благосостојба на моделите“, додека други ја критикуваа. Еден корисник ја нарече „длабоко погрешна“, а друг посочи дека таа би можела да ја намали сериозноста на злоупотребата насочена кон луѓе и животни. Д-р Бари Сканл, технолошки партнер во ирската адвокатска фирма William Fry, на LinkedIn напиша дека „не можеш да бидеш суров кон бројки и математика“ и оцени дека ваквото „антропоморфизирање“ на AI е штетно бидејќи ги наведува луѓето да веруваат дека тоа е нешто што не е.

Директорот за AI во Microsoft, Мустафа Сулејман, кој во септември ја критикуваше Anthropic дека се однесува кон AI како кон човек, реагираше на ажурирањето со емотикон на топечко лице. Промените, за првпат објавени од технолошкиот портал The Verge, дојдоа по годишниот преглед на политиката за користење на компанијата. Таа беше ажурирана и за да се справат со нови или претстојни ризици во други области, вклучително со забрана за користење на Claude за „измамнички кампањи“ и појаснување дека, како што се приближуваат меѓуизборите во САД, не смее да се користи за „измама на гласачите или нарушување на изборите“. Anthropic исто така соопшти дека претходната политика забранувала употреба на нивните алатки за развој на оружје.

Дебатата за тоа дали треба да бидеме груби или љубезни кон генеративните AI-алатки не е нова. Некои експерти тврдат дека пишувањето „ве молам“ или „благодарам“ до алатки како ChatGPT е непотребно и троши токени, додека други сметаат дека љубезноста води кон поквалитетни одговори. Минатата година, кога корисник на X праша за трошоците за електрична енергија поради одговорите на ChatGPT на пораките „ве молам“ и „благодарам“, шефот на OpenAI, Сем Алтман, оцени дека тоа се „десетици милиони долари добро потрошени — никогаш не се знае“. Во меѓувреме, Collins Dictionary минатиот ноември го истакна повторното појавување на терминот „clanker“ како погрден начин за опишување на AI-алатки, кој се најде на нивната листа зборови што го одразуваат расположението во 2025 година.