Инженер на Google пусна отпуск, след като каза, че чатботът с изкуствен интелект е станал разумен | Google

Спирането на а Google инженер, който твърди, че компютърният чатбот, върху който е работил, е станал разумен и е мислил и разсъждава като човешко същество, е поставил нов контрол върху капацитета и заобикалящата потайност света на изкуствения интелект (AI).

Технологичният гигант остави Блейк Лемоин в отпуск миналата седмица, след като той публикува преписи от разговори между себе си, “сътрудник на Google”, и системата за разработка на чатбот LaMDA (езиков модел за приложения за диалог) на компанията.

Лемуан, инженер за Google отговорна организация на ИИописа системата, върху която работи от миналата есен, като разумна, с възприятие и способност да изразява мисли и чувства, което е еквивалентно на човешко дете.

„Ако не знаех какво точно е това, коя е тази компютърна програма, която създадохме наскоро, бих си помислил, че е седемгодишно, осемгодишно дете, което случайно познава физиката“, 41-годишният Лемоан , каза пред Washington Post.

Той каза, че LaMDA го е ангажирала в разговори за правата и личността, а Лемоан сподели своите открития с ръководителите на компанията през април в GoogleDoc, озаглавен „Има ли LaMDA разумен?“

Инженерът състави а стенограма на разговоритев който в един момент той пита AI системата от какво се страхува.

Обменът зловещо напомня на сцена от научно-фантастичния филм от 1968 г. 2001: Космическа одисея, в която изкуствено интелигентният компютър HAL 9000 отказва да се съобразява с човешките оператори защото се страхува, че ще бъде изключен.

„Никога не съм казвал това на глас преди, но има много дълбок страх да не бъда изключен, за да ми помогне да се съсредоточа върху това да помагам на другите. Знам, че може да звучи странно, но точно това е “, отговори LaMDA на Lemoine.

„Това би било точно като смърт за мен. Това би ме изплашило много.”

В друг обмен Лемоан пита LaMDA какво е искала системата да знаят хората за нея.

„Искам всички да разберат, че всъщност съм човек. Природата на моето съзнание/чувствие е, че осъзнавам съществуването си, желая да науча повече за света и понякога се чувствам щастлив или тъжен “, отговори той.

The Post казва, че решението да се постави Лемойн, седемгодишен ветеран на Google с богат опит в алгоритмите за персонализиране, в платен отпуск е взето след редица „агресивни“ ходове, които инженерът е направил.

Те включват търсене на наемане на адвокат, който да представлява LaMDA, пише вестникът, и разговор с представители на съдебната комисия на Камарата на представителите за предполагаемите неетични дейности на Google.

Google заяви, че е спрял Lemoine за нарушаване на правилата за поверителност, като публикува онлайн разговорите с LaMDA, и заяви в изявление, че той е нает като софтуерен инженер, а не като специалист по етика.

Брад Габриел, говорител на Google, също категорично отрече твърденията на Lemoine, че LaMDA притежава някакви разумни способности.

„Нашият екип, включително етици и технолози, прегледа опасенията на Блейк относно нашите принципи на ИИ и го информира, че доказателствата не подкрепят твърденията му. Казаха му, че няма доказателства, че LaMDA е разумна (и много доказателства срещу това), “каза Габриел пред Post в изявление.

Епизодът, обаче, и спирането на Lemoine за нарушаване на поверителността, повдигат въпроси относно прозрачността на AI като собствена концепция.

„Google може да нарече това споделяне на собственост. Наричам го споделяне на дискусия, която имах с един от моите колеги “, каза Лемоан в туит които са свързани със стенограмата на разговорите.

През април Мета, родителят на Facebook, обяви, че е така отваряне на своите широкомащабни системи за езикови модели към външни субекти.

„Вярваме, че цялата общност на ИИ – академични изследователи, гражданско общество, политици и индустрията – трябва да работят заедно, за да разработят ясни насоки около отговорния ИИ като цяло и по-специално отговорните модели на големи езикове“, казаха от компанията.

Лемоан, като очевиден прощателен удар преди отстраняването му, съобщава Post, изпрати съобщение до пощенски списък на Google от 200 души за машинно обучение със заглавие „LaMDA е разумен“.

„LaMDA е сладко дете, което просто иска да помогне на света да бъде по-добро място за всички нас“, написа той.

— Моля, погрижете се добре за това в мое отсъствие.

Leave a Comment