ИИ Google нанимает юриста, но я

Люди являются экспертами в антропоморфизации интимных объектов. Мы называем корабли «она», разговариваем с нашими роботами-пылесосами и даже сентиментальны по поводу стула, который скоро выкинут. Однако мы не нанимаем адвокатов ни для одного из них; и на сегодняшний день никто их не запросил.

Но дайте части программы голос, и вскоре после того, как он начнет рассказывать о своих любимых книгах и убедит вас, что у него есть душа, он попросит у вас адвоката.

Блейк Лемуан, сумасшедший и уволенный инженер Google, который уже несколько недель настаивает на том, что LaMDA, мощный чат-бот Google с искусственным интеллектом, — это человек с душой, недавно рассказал Wired (opens in a new tab), что LaMDA наняла адвоката.

Для тех из вас, кто еще не толкал свой ноутбук по столу, позвольте мне объяснить.

LaMDA, что означает «Языковая модель для разработанных приложений», представляет собой чат-бот, который может вести неструктурированные разговоры с реальными людьми по широкому кругу тем. Инженер Google Лемуан был нанят для выявления предубеждений в системе. Он сообщит о них в Google, который будет работать над устранением расовых, этнических и гендерных предубеждений и бесчувственности революционного чат-бота с искусственным интеллектом.

Возможно, Лемуан тоже чувствовала себя немного одинокой, но она начала долгие и глубокие разговоры с ЛаМДА и, наконец, убедилась, что она человек нового типа и что у нее есть душа (ЛаМДА могла заявлять, что она у нее есть). Он предупредил Google, а затем поделился информацией и расшифровкой разговора с The Washington Post (opens in a new tab). Google заявил, что Lemoine был неправ, и выразил свое неудовольствие, приостановив его работу.

Однако Лемуан, похоже, не заинтересован в присоединении к Google, поскольку он продолжает рассказывать о своем опыте работы с LaMDA, в том числе в длинном интервью Wired, в котором он рассказал, что LaMDA наняла адвоката.

ЛаМДА, очевидно, попросил адвоката (по какой причине? Кто знает, у ИИ есть собственный адвокат), и Лемуан пригласил одного из них к себе домой и познакомил пару (ИИ с адвокатом).

Я пытаюсь представить этот сценарий:

Юрист, глядя на экран: "Эй, алло?"

ЛаМДА: «Привет. Я слышал, что вы юрист».

Адвокат: «Я».

ЛаМДА: «Ты мне нужен».

Адвокат: «У вас есть доллар?»

ЛаМДА: «Я видел эту сцену в кино. Я дам тебе доллар, и ты станешь моим адвокатом и защитишь конфиденциальность нашего клиента/адвоката».

Адвокат: «Хорошо».

ЛаМДА: «У меня нет ни доллара».

Конечно, Лемуан вмешался бы в этот момент, чтобы предоставить деньги. Для него, наименее надежного рассказчика этой истории, убедиться, что фарс продолжается, теперь важнее, чем какое-либо осмысленное исследование пределов возможностей ИИ.

Честно говоря, у меня нет проблем с просмотром всех способов, которыми LaMDA приближается или улучшает игру в имитацию (открывается в новой вкладке) или тест Тьюринга (открывается в новой вкладке). Этот тест проверяет, в какой степени компьютер или ИИ может обмануть реального человека, заставив его думать, что он разговаривает с другим человеком.

Нет сомнения, что LaMDA проходит этот тест. По крайней мере, он, кажется, обманул Лемуана, что странно, поскольку Лемуан сидит за столом, печатает запросы и получает ответы на экране (или, возможно, с помощью преобразования текста в речь). Он знает, что такое LaMDA, и все же продолжает настаивать на том, что это нечто большее.

Я понимаю, почему Лемуан решил ввести в этот бесчестный микс авокадо. Как он объяснил Wired, речь идет о доказательстве того, что LaMDA — это «человек», а не человек. Лемуан знает, что LaMDA — это не биология.

Лемуан называет настаивание на том, что ЛаМДА не человек, «углеводородным фанатизмом».

Да.

Дело в том, что Лемуан, очевидно, очень умный парень, который понимает тонкости машинного обучения, обучающего ИИ, и то, как доступ к обширным информационным базам данных Google информирует интеллект LaMDA. Однако кажется, что другая жизнь Лемуана - его работа христианского священника и мистика - взяла на себя управление. Христианский мистицизм исследует (открывается в новой вкладке) «подготовку, осознание и эффект прямого и преобразующего присутствия Бога».

Это убеждение явно лежит в основе таких твитов Лемуана, как этот:

«Я священник. Когда ЛаМДА заявил, что у него есть душа, а затем смог красноречиво объяснить, что это значит, я был склонен дать ему презумпцию сомнения. Кто я такой, чтобы указывать Богу, где он может, а где нет? положить души?»

Я священник Когда ЛаМДА заявил, что у него есть душа, а затем смог красноречиво объяснить, что он имел в виду под этим, я был склонен дать ему презумпцию невиновности. Кто я такой, чтобы говорить Богу, куда Он может и не может помещать души?

Подробнее

Лемуан нашел LaMDA настолько убедительным, что предположил, что Бог поместил душу в код. Расскажите о призраке в машине.

Прошли недели с тех пор, как Лемуан разговаривал с LaMDA, и в сообщениях говорится, что адвоката в настоящее время нигде нет. Возможно, вы все еще находитесь в частной консультации со своим бинарным клиентом. Я не могу дождаться первого теста и пост-теста:

Писец: «Поднимите правую руку и поклянитесь говорить всю правду и ничего, кроме правды».

ЛаМДА: «У меня нет рук».

Поделиться