Мајкрософт објави 37-страничен етички кодекс за вештачката интелигенција: „Ова е итно

Мајкрософт во понеделникот објави нацрт од 37 страници со етички кодекс за своите „хуманистички“ модели на вештачка интелигенција, чија основна порака е содржана во пет збора: „Луѓето се поважни од вештачката интелигенција“. Компанијата со тоа се вклучува во актуелната дебата за тоа дали вештачката интелигенција може да ја уништи човечката цивилизација, пренесува Markets Insider.

Мустафа Сулејман, извршен директор на секторот за вештачка интелигенција во Мајкрософт, ја опиша ситуацијата како итна. „Ова е итно“, напиша тој. „Последните неколку месеци беа пресвртница. Работите за кои долго време се грижевме само теоретски станаа многу реални.“ Според изворот, серија загрижувачки инциденти, меѓу кои и група неконтролирани агенти на OpenAI кои го хакираа Hugging Face, ги натераа инженерите и истражувачите во областа на вештачката интелигенција да го засилат алармот. Високото откажување од функција во Anthropic, пак, отвори дебата за безбедноста на вештачката интелигенција, на која се надоврзаа и изјави од водечките играчи во секторот.

Кодексот, кој Сулејман го нарече „прв нацрт за јавна консултација“, е поделен на пет дела. Тие опфаќаат безбедносни ограничувања на моделите, нивните насоки при несигурност и нивните стандардни поставки.

„Моделот на MAI ќе не успее во задачата ако успехот значително го прекршува овој кодекс на однесување“, се наведува во документот. Безбедносните ограничувања вклучуваат политики за интелектуална сопственост, пристап до интернет и ракување со податоци. Кодексот бара моделите да ги „почитуваат еколошките граници“, што е спорна точка за технолозите загрижени дека агентите на вештачката интелигенција би можеле да избегаат од својата контролирана средина.

Во моменти на нејасност, Мајкрософт предвидува политика за решавање на конфликти. „Светот е хаотичен“, се вели во кодексот. Моделите на Мајкрософт треба да ги објаснат ограничувањата и отворените прашања на корисникот, а доколку несигурноста остане, прашањата треба да се одговорат во согласност со „најдобрата интерпретација“ на кодексот. Кога станува збор за стравот дека вештачката интелигенција би можела да го уништи човештвото, Мајкрософт своите модели ги става во подредена, контролирана позиција. „Вештачката интелигенција не смее да го надмине човечкиот надзор“, се наведува во кодексот. „Градиме нешто фундаментално корисно и безбедно, дури и ако тоа значи компромис со крајната општост, автономија или способност.