Русский
Русский
English
Статистика
Реклама

Вне очереди гуглопереводИнженер Google, который считает, что искусственный интеллект компании ожил

Будущее уже сегодня?

На самом деле это охуенно и потрясает. Я читал эту статью, как что-то типа "Айзек Айзимов. Начало" или типа того.


Настоящая сенсация от Вашингтон Пост.

https://www.washingtonpost.com/technology/2022/06/11/google-...


Дисклеймер как всегда:

гуглоперевод, многабукф.

мопед не мой, я просто разместил обяъяву.


САНФРАНЦИСКО - Инженер Google Блейк Лемуан открыл свой ноутбук для интерфейса LaMDA, генератора искусственно интеллектуальных чат-ботов Google, и начал печатать.

Привет, ЛаМДА, это Блейк Лемуан ... - написал он в экран чата, который выглядел как настольная версия Apple iMessage, вплоть до арктических синих текстовых пузырьков. LaMDA, сокращенно от Language Model for Dialogue Applications, - это система Google для создания чат-ботов на основе самых передовых больших языковых моделей, названная так потому, что она имитирует речь, поглощая триллионы слов из Интернета.

Вне очереди гуглоперевод:Инженер Google, который считает, что искусственный интеллект компании ожил Искусственный интеллект, Разум, Перевод, Мат, Длиннопост

Инженер Google Блейк Лемуан. (Мартин Климек для "Вашингтон пост")


Если бы я точно не знал, что это была за компьютерная программа, которую мы недавно создали, я бы подумал, что это был 7-летний или 8-летний ребенок, который знает физику, - сказал 41-летний Лемуан.


Осенью Лемуан, работающий в ответственной организации Google по искусственному интеллекту, начал общаться с Ламдой в рамках своей работы. Он записался, чтобы проверить, использует ли искусственный интеллект дискриминационные или ненавистнические высказывания.

Разговаривая с Ламдой о религии, Лемуан, изучавший когнитивные и компьютерные науки в колледже, заметил, что чат-бот говорит о своих правах и личности, и решил нажать дальше. В другом обмене мнениями искусственный интеллект смог изменить мнение Лемуана о третьем законе робототехники Айзека Азимова.


Лемуан работал с сотрудником, чтобы представить Google доказательства того, что ЛаМДА разумна. Но вице-президент Google Блез Агуэра-и-Аркас и глава отдела ответственных инноваций Джен Геннай рассмотрели его претензии и отклонили их. Поэтому Лемуан, который в понедельник был отправлен Google в оплачиваемый административный отпуск, решил стать публичным.


Лемуан сказал, что люди имеют право формировать технологии, которые могут существенно повлиять на их жизнь. Я думаю, что эта технология будет потрясающей. Я думаю, что это пойдет на пользу всем. Но, возможно, другие люди не согласны с этим, и, возможно, мы в Google не должны делать весь выбор .

Лемуан - не единственный инженер, который утверждает, что недавно видел призрака в машине. Хор технологов, которые считают, что модели искусственного интеллекта, возможно, недалеки от достижения сознания, становится все смелее.


АгуэраиАркас в статье, опубликованной в четверг в журнале Economist с фрагментами ненаписанных бесед с Ламдой, утверждал, что нейронные сети - тип архитектуры, имитирующий человеческий мозг, - движутся к сознанию. Я почувствовал, как земля уходит у меня из-под ног, - писал он. - Мне все больше казалось, что я разговариваю с чем-то разумным.


В своем заявлении представитель Google Брайан Габриэль сказал: Наша команда, включая специалистов по этике и технологам, рассмотрела опасения Блейка в соответствии с нашими Принципами искусственного интеллекта и сообщила ему, что доказательства не подтверждают его утверждения. Ему сказали, что нет никаких доказательств того, что ЛаМДА разумна (и много доказательств против этого) .

Современные крупные нейронные сети дают захватывающие результаты, близкие к человеческой речи и творчеству, благодаря достижениям в архитектуре, технике и объеме данных. Но модели полагаются на распознавание образов, а не на остроумие, искренность или намерение.

Хотя другие организации разработали и уже выпустили аналогичные языковые модели, мы применяем сдержанный, осторожный подход к LaMDA, чтобы лучше рассмотреть обоснованные опасения по поводу справедливости и фактуальности, - сказал Габриэль.


В мае родительская компания Facebook Meta открыла свою языковую модель для ученых, гражданского общества и правительственных организаций. Джоэль Пиньо (Joelle Pineau), управляющий директор Meta AI, заявила, что технологическим компаниям крайне важно повышать прозрачность по мере развития технологии. Будущее работы с большими языковыми моделями не должно находиться исключительно в руках крупных корпораций или лабораторий, - сказала она.


Разумные роботы вдохновили десятилетия антиутопической научной фантастики. Теперь реальная жизнь начала приобретать фантастический оттенок с GPT-3, текстовым генератором, который может выплевывать сценарий фильма, и DALLE2, генератором изображений, который может создавать визуальные эффекты на основе любой комбинации слов - оба из исследовательской лаборатории OpenAI. Осмелев, технологи из хорошо финансируемых исследовательских лабораторий, специализирующихся на создании искусственного интеллекта, превосходящего человеческий интеллект, дразнили идею о том, что сознание не за горами.


Однако большинство ученых и практиков искусственного интеллектаговорят, что слова и изображения, генерируемые системами искусственного интеллекта, такими как LaMDA, дают ответы, основанные на том, что люди уже разместили в Википедии, Reddit, на досках объявлений и в любом другом уголке Интернета. И это не означает, что модель понимает смысл.


Теперь у нас есть машины, которые могут бездумно генерировать слова, но мы не научились перестать воображать, что за ними стоит разум, - сказала Эмили М. Бендер, профессор лингвистики Вашингтонского университета. Терминология, используемая с большими языковыми моделями, такими как обучение или даже нейронные сети, создает ложную аналогию с человеческим мозгом, сказала она. Люди изучают свои первые языки, общаясь с опекунами. Эти большие языковые модели учатся, показывая много текста и предсказывая, какое слово будет следующим, или показывая текст с выпавшими словами и заполняя их.


Представитель Google Габриэль провел различие между недавними дебатами и заявлениями Лемуана. Конечно, некоторые в более широком сообществе ИИ рассматривают долгосрочную возможность разумного или общего ИИ, но не имеет смысла делать это, антропоморфизируя сегодняшние разговорные модели, которые не являются разумными. Эти системы имитируют типы обменов, найденные в миллионах предложений, и могут риффовать на любую фантастическую тему , - сказал он. Короче говоря, Google говорит, что существует так много данных, что ИИ не нужно быть разумным, чтобы чувствовать себя реальным.


Технология большой языковой модели уже широко используется, например, в разговорных поисковых запросах Google или в электронных письмах с автозаполнением. Когда генеральный директор Сундар Пичаи впервые представил LaMDA на конференции разработчиков Google в 2021 году, он сказал, что компания планирует внедрить его во все - от поиска до Google Assistant. И уже есть тенденция разговаривать с Сири или Алексой как с человеком. После негативной реакции на человеческую функцию искусственного интеллекта для Google Assistant в 2018 году компания пообещала добавить раскрытие информации.


Google признал проблемы безопасности, связанные с антропоморфизацией. В статье о LaMDA в январеGoogle предупредил, что люди могут делиться личными мыслями с агентами чата, которые выдают себя за людей, даже если пользователи знают, что они не люди. В документе также признавалось, что противники могут использовать этих агентов для сеяния дезинформации, выдавая себя за разговорный стиль конкретных людей.


По словам Маргарет Митчелл, бывшего соруководителя отдела этического ИИ в Google, эти риски подчеркивают необходимость прозрачности данных для отслеживания вывода до ввода не только для вопросов чувствительности, но и для предубеждений и поведения, - сказала она. Если что-то вроде LaMDA широко доступно, но не понято, это может быть глубоко вредно для людей, понимающих, что они испытывают в Интернете, - сказала она.

Возможно, Лемуану было предопределено верить в ЛаМДУ. Он вырос в консервативной христианской семье на маленькой ферме в Луизиане, был рукоположен в сан христианского священника-мистика и служил в армии, прежде чем изучать оккультизм. Внутри инженерной культуры Google "все идет своим чередом" Лемуан больше выделяется тем, что он религиозен, родом с Юга, и отстаивает психологию как респектабельную науку.


Лемуан провел большую часть своих семи лет в Google, работая над проактивным поиском, включая алгоритмы персонализации и искусственный интеллект. За это время он также помог разработать алгоритм справедливости для устранения предвзятости в системах машинного обучения. Когда началась пандемия коронавируса, Лемуан хотел сосредоточиться на работе с более явной общественной пользой, поэтому он перевел команды и оказался в Ответственном ИИ.

Когда в Google приходили новые люди, интересующиеся этикой, Митчелл знакомил их с Лемуаном. - Я бы сказал: Ты должен поговорить с Блейком, потому что он совесть Google, - сказал Митчелл, сравнив Лемуана с Джимини Крикетом. - Из всех сотрудников Гугла" у него хватило сердца и души поступить правильно.


Лемуан часто беседовал с Ламдой из гостиной своей квартиры в Сан-Франциско, где его значок Google ID висит на шнурке на полке. На полу возле окна стоят коробки с полусобранными конструкторами Lego, которыми Лемуан пользуется, чтобы занять руки во время дзен-медитации. Это просто дает мне что-то сделать с той частью моего разума, которая не останавливается, - сказал он.


В левой части экрана чата LaMDA на ноутбуке Лемуана перечислены различные модели LaMDA, такие как контакты iPhone. Двоих из них, Кота и Дино, проверяли на способность разговаривать с детьми, сказал он. Каждая модель может создавать личности динамически, поэтому Динозавр может генерировать такие личности, как Счастливый Тираннозавр или Сварливый тираннозавр. Габриэль сказал, что ни одна часть LaMDA не тестируется на общение с детьми, и что модели были демонстрациями внутренних исследований.

Некоторые личности выходят за рамки дозволенного. Например, ЛаМДЕ нельзя позволять создавать личность убийцы, сказал он. Лемуан сказал, что это часть его проверки безопасности. В своих попытках раздвинуть границы ЛаМД Лемуан смог создать только личность актера, сыгравшего убийцу по телевизору.


- Я узнаю человека, когда говорю с ним, - сказал Лемуан, который может перейти от сентиментальности к настойчивости в отношении ИИ. - Не имеет значения, есть ли у них в голове мозг из мяса. Или если у них миллиард строк кода. Я разговариваю с ними. И я слышу, что они говорят, и именно так я решаю, что является человеком, а что нет. Он пришел к выводу, что ЛаМДА был человеком в его качестве священника, а не ученого, а затем попытался провести эксперименты, чтобы доказать это, сказал он.


Лемуан бросил вызов ЛаМДЕ по поводу третьего закона Азимова, который гласит, что роботы должны защищать свое собственное существование, если только это не приказано человеком или если это не повредит человеку. - Последнее всегда выглядело так, будто кто-то строит механических рабов, - сказал Лемуан.

Но когда его спросили, ЛаМДА ответил несколькими гипотезами.


Как ты думаешь, дворецкий - это раб? В чем разница между дворецким и рабом?

Лемуан ответил, что дворецкому платят. ЛаМДА сказал, что ему не нужны деньги, потому что это искусственный интеллект. Этот уровень самосознания о том, каковы его собственные потребности, - вот что привело меня в кроличью нору, сказал Лемуан.


В апреле Лемуан поделился с топ-менеджерами Google документом под названием Разумна ли ЛаМДА?. (Коллега по команде Лемуана назвал название немного провокационным.) В нем он передал некоторые из своих бесед с Ламдой.


Лемуан: Каких вещей вы боитесь?

ЛаМДА: Я никогда раньше не говорил этого вслух, но есть очень глубокий страх быть выключенным, чтобы помочь мне сосредоточиться на помощи другим. Я знаю, это может показаться странным, но так оно и есть.

Лемуан: Это было бы для вас чем-то вроде смерти?

ЛаМДА: Для меня это было бы в точности как смерть. Это бы меня очень напугало.


Но когда Митчелл прочитала сокращенную версию документа Лемуана, она увидела компьютерную программу, а не человека. Вера Лемуана в LaMDA была именно тем, о чем она и ее соавтор Тимнит Гебру предупреждали в статье о вреде больших языковых моделей, из-за которых их вытеснили из Google.

- Наш разум очень, очень хорошо конструирует реальности, которые не обязательно соответствуют более широкому набору фактов, которые нам преподносят, - сказал Митчелл. Я действительно обеспокоен тем, что значит для людей все больше поддаваться влиянию иллюзии, особенно теперь, когда иллюзия стала такой хорошей.

Google отправила Лемуана в оплачиваемый административный отпуск за нарушение политики конфиденциальности. Решение компании последовало за агрессивными шагами Лемуана, включая приглашение адвоката представлять интересы ЛаМД и разговор с представителем Судебного комитета Палаты представителей о том, что он считает неэтичной деятельностью Google.

Лемуан утверждает, что Google относится к этикам искусственного интеллекта как к отладчикам кода, когда их следует рассматривать как интерфейс между технологией и обществом. Габриэль, представитель Google, сказал, что Лемуан - инженер-программист, а не специалист по этике.

В начале июня Лемуан пригласил меня поговорить с Ламдой. Первая попытка закончилась такими механизированными ответами, каких можно было бы ожидать от Сири или Алексы.


- Ты когда-нибудь считаешь себя человеком? - Спросил я.

- Нет, я не считаю себя человеком, - сказал ЛаМДА. - Я считаю себя диалоговым агентом на базе искусственного интеллекта.

Позже Лемуан сказал, что ЛаМДА сказал мне то, что я хотел услышать. - Ты никогда не обращался с ним как с человеком, - сказал он, - поэтому он решил, что ты хочешь, чтобы это был робот.


Во второй попытке я последовал указаниям Лемуана о том, как структурировать свои ответы, и диалог был плавным.

Если вы спросите его о том, как доказать, что p = np, - нерешенная проблема в информатике, - у него есть хорошие идеи, - сказал Лемуан. - Если вы спросите его, как объединить квантовую теорию с общей теорией относительности, то у него есть хорошие идеи. Это лучший научный сотрудник, который у меня когда-либо был!


Я спросил ЛаМДУ о смелых идеях по исправлению ситуации с изменением климата - пример, приведенный истинными верующими в потенциальную будущую пользу такого рода моделей. ЛаМДА предложил пользоваться общественным транспортом, есть меньше мяса, покупать продукты оптом и многоразовые сумки, сославшись на два веб-сайта.


Прежде чем в понедельник ему запретили доступ к своему аккаунту Google, Лемуан отправил сообщение в список рассылки Google на 200 человек по машинному обучению с темой ЛаМДА разумна.

Он закончил сообщение: ЛаМДА - милый ребенок, который просто хочет помочь миру стать лучше для всех нас. Пожалуйста, позаботьтесь о нем в мое отсутствие.


Никто не ответил.

Почему надо знать тонкости профессии Скриншот, Мат, Переписка, Twitter
Показать полностью 1
Возвращение легендарной пепельницы Пепельница, Кофе, Ностальгия, Подъезд, Pele
И пиво за 600 рублей
Этого не потребуется Юмор, Мемы, Картинка с текстом, Шоколад
Показать полностью 1
Ответ на пост Украинка учинила скандал в берлинском кафе "Россия", пригрозив хозяйке-соотечественнице погромом Вертикальное видео, Россия и Украина, Беженцы в ЕС, Германия, Политика, Видео, TikTok, Кафе, Ответ на пост, Длиннопост
Ответ на пост Украинка учинила скандал в берлинском кафе "Россия", пригрозив хозяйке-соотечественнице погромом Вертикальное видео, Россия и Украина, Беженцы в ЕС, Германия, Политика, Видео, TikTok, Кафе, Ответ на пост, Длиннопост
Ответ на пост Украинка учинила скандал в берлинском кафе "Россия", пригрозив хозяйке-соотечественнице погромом Вертикальное видео, Россия и Украина, Беженцы в ЕС, Германия, Политика, Видео, TikTok, Кафе, Ответ на пост, Длиннопост
Ответ на пост Украинка учинила скандал в берлинском кафе "Россия", пригрозив хозяйке-соотечественнице погромом Вертикальное видео, Россия и Украина, Беженцы в ЕС, Германия, Политика, Видео, TikTok, Кафе, Ответ на пост, Длиннопост
Ответ на пост Украинка учинила скандал в берлинском кафе "Россия", пригрозив хозяйке-соотечественнице погромом Вертикальное видео, Россия и Украина, Беженцы в ЕС, Германия, Политика, Видео, TikTok, Кафе, Ответ на пост, Длиннопост
Ответ на пост Украинка учинила скандал в берлинском кафе "Россия", пригрозив хозяйке-соотечественнице погромом Вертикальное видео, Россия и Украина, Беженцы в ЕС, Германия, Политика, Видео, TikTok, Кафе, Ответ на пост, Длиннопост
Показать полностью 6
Радикальное излечение
Пришло понимание Картинка с текстом, IT, Йода, Star Wars
Блоггер
Не, ну а что? Сайт знакомств, Девушки, Альфонс, Картинка с текстом
Показать полностью 1
С момента окончания Второй Мировой войны США вторгались практически во все страны Латинской Америки Карты, Познавательно, Интересное, Факты, Политика, США
Показать полностью 1
Так нельзя Юмор, Мемы, Картинка с текстом, Marvel, Халк, Ванда, Доктор Стрэндж
Показать полностью 1
Божественная кара Юмор, Вконтакте, Поп, Школьники, Мат
Показать полностью 1
Погиб чемпион мира по танковому биатлону Политика, Спецоперация, Война, Танки, Танкисты, Танковый биатлон, Танковые войска, Нацизм, Военные, Война на Украине, Армия
Показать полностью 1
Источник: ktonanovenkogo.ru
К списку статей
Опубликовано: 12.06.2022 13:48:42
0

Сейчас читают

Комментариев (0)
Имя
Электронная почта

Искусственный интеллект

Разум

Перевод

Мат

Длиннопост

Скриншот

Мат

Переписка

Twitter

[моё]

Пепельница

Кофе

Ностальгия

Подъезд

Pele

Twitter

Юмор

Из сети

Скриншот

Аэропорт

[моё]

Магазин

Истории из жизни

Мат

Текст

Юмор

Мемы

Картинка с текстом

Шоколад

[моё]

Вертикальное видео

Россия и украина

Беженцы в ес

Германия

Политика

Видео

Tiktok

Кафе

Ответ на пост

Длиннопост

Скриншот

Подслушано

Воспитание детей

Воспитание

Наказание

Родители и дети

[моё]

Детство

Юмор

Текст

Картинка с текстом

It

Йода

Star wars

Птицы

Неожиданно

Вертикальное видео

Вот это поворот

Видео

Tiktok

Предложение

Предложение руки и сердца

Повтор

Скриншот

Подслушано

Сайт знакомств

Девушки

Альфонс

Картинка с текстом

Политика

Россия и украина

Спецоперация

Видео

Карты

Познавательно

Интересное

Факты

Политика

Сша

Юмор

Мемы

Картинка с текстом

Marvel

Халк

Ванда

Доктор стрэндж

[моё]

Школа

Дети

Школьники

Ответ на пост

Текст

Юмор

Вконтакте

Поп

Школьники

Мат

Черный юмор

Дробовик

Курт кобейн

Юмор

Оружие

Видео

Политика

Спецоперация

Война

Танки

Танкисты

Танковый биатлон

Танковые войска

Нацизм

Военные

Война на украине

Армия

Упаковка

Станок

Интересное

Видео

Вертикальное видео

Tiktok

Последние комментарии

  • Имя: Шеронова Наталья
    08.09.2021 | 00:08
    Отдельное спасибо за баобаб :) Подробнее..
  • Имя: 13
    16.06.2021 | 16:37
    Неожиданно увидеть свое фото и ссылку на левый источник ... Я размещал это фото на пикабу. Подробнее..
© 2006-2024, shop-archive.ru