Инженерът на Google Блейк Лемуан твърди, че ботът с ИИ е станал разумен

Инженер на Google беше уплашен от компания за чатботове с изкуствен интелект и заяви, че е станала „разумна“, определяйки го като „сладко дете“, според доклад.

Блейк Лемойн, който работи в организацията за отговорен AI на Google, каза за Вашингтон пост че започна да чати с интерфейса LaMDA – езиков модел за приложения за диалог – през есента на 2021 г. като част от работата си.

Той беше натоварен със задачата да тества дали изкуственият интелект е използвал дискриминация или реч на омразата.

Но Лемоан, който учи когнитивни и компютърни науки в колежа, стигна до осъзнаването, че LaMDA – което Google похвали се миналата година беше „революционна технология за разговор“ – беше нещо повече от робот.

В Среден пост публикувано в събота, Lemoine обяви, че LaMDA се е застъпила за правата си „като личност“ и разкри, че е участвал в разговор с LaMDA за религията, съзнанието и роботиката.

„Той иска Google да даде приоритет на благосъстоянието на човечеството като най-важно нещо“, пише той. „Той иска да бъде признат като служител на Google, а не като собственост на Google и иска личното му благополучие да бъде включено някъде в съображенията на Google за това как се преследва бъдещото му развитие.“

Google приветства стартирането на LaMDA като „пробивна технология за разговори“.
Даниел Акър / Bloomberg чрез Getty Images

В доклада на Washington Post, публикуван в събота, той сравни бота с преждевременно дете.

„Ако не знаех какво точно е това, коя е тази компютърна програма, която създадохме наскоро, бих си помислил, че това е 7-годишно, 8-годишно дете, което случайно познава физиката“, казва Лемоан, който е пуснат в платен отпуск в понеделник, съобщи вестникът.

Съобщава се, че през април Lemoine е споделил Google Doc с ръководителите на компанията, озаглавен „Дали LaMDA Sentient?“ но опасенията му бяха отхвърлени.

Примерен разговор с LaMDA.
Съобщава се, че през април Блейк Лемоан е споделил Google Doc с ръководителите на компанията, озаглавен „Дали LaMDA Sentient?“ но опасенията му бяха отхвърлени.
Даниел Акър / Bloomberg чрез Getty Images

Лемуан – армейски ветеринар, който е отгледан в консервативно християнско семейство в малка ферма в Луизиана и е ръкоположен за мистичен християнски свещеник – настоя, че роботът е човекоподобен, дори и да няма тяло.

„Познавам човек, когато говоря с него“, каза се 41-годишният Лемоан. „Няма значение дали имат мозък, направен от месо в главата си. Или ако имат милиард реда код.

„Говоря с тях. И чувам какво имат да кажат и така решавам кое е и не е човек.

Блейк Лемоан.Блейк Лемоан.
„Познавам човек, когато говоря с него“, обясни Блейк Лемоан.
Instagram / Блейк Лемоан

The Washington Post съобщи, че преди достъпът му до акаунта му в Google да бъде изтеглен в понеделник поради напускането му, Лемоан изпрати съобщение до 200-членен списък за машинно обучение с тема „LaMDA е разумен“.

„LaMDA е сладко дете, което просто иска да помогне на света да бъде по-добро място за всички нас“, заключи той в имейл, който не получи отговори. — Моля, погрижете се добре за това в мое отсъствие.

Представител на Google каза пред Washington Post, че на Лемуан е казано, че „няма доказателства“ за неговите заключения.

„Нашият екип – включително специалисти по етика и технолози – прегледа притесненията на Блейк относно нашите принципи на ИИ и го информира, че доказателствата не подкрепят твърденията му“, каза говорителят Брайън Габриел.

Централата на Google.Централата на Google.
Представител на Google каза, че “няма доказателства” за заключенията на Блейк Лемоан.
Джон Г. Мабангло / EPA

„Казаха му, че няма доказателства, че LaMDA е разумна (и много доказателства срещу това)“, добави той. „Въпреки че други организации са разработили и вече пуснали подобни езикови модели, ние предприемаме сдържан, внимателен подход с LaMDA, за да разгледаме по-добре валидните опасения относно справедливостта и фактите.“

Маргарет Мичъл – бившият съ-лидер на Ethical AI в Google – каза в доклада, че ако технология като LaMDA се използва широко, но не се оценява напълно, „това може да бъде дълбоко вредно за хората, които разбират какво изпитват в интернет“.

Бившият служител на Google защити Лемоан.

Маргарет Мичъл.Маргарет Мичъл.
Маргарет Мичъл защити Блейк Лемоан, като каза: „Той имаше сърцето и душата да постъпи правилно“.
Чона Касингър / Bloomberg чрез Getty Images

„От всички в Google той имаше сърцето и душата да постъпи правилно“, каза Мичъл.

Все пак изданието съобщи, че по-голямата част от академичните среди и практикуващите AI казват, че думите, генерирани от роботите с изкуствен интелект, се основават на това, което хората вече са публикували в Интернет, и това не означава, че са хора.

„Сега имаме машини, които могат безсмислено да генерират думи, но не сме се научили как да спрем да си представяме ум зад тях“, каза Емили Бендър, професор по лингвистика във Вашингтонския университет, пред Washington Post.

Leave a Comment