Тору сравнивают с молоком, и это одна из причин, по которой в праздник Шавуот принято есть молочные продукты. Этот обычай в наше время приобрел такую популярность, что стал синонимом праздника Шавуот. Но ведь Тора уподобляется множеству вещей: воде, вину, хлебу, мясу, маслу, меду? Какую заслугу имело молоко, которое было выбрано для представления Торы на Шавуот?
Одно из объяснений заключается в том, что народ Израиля во время дарования Торы уподоблялся младенцу, который родился, а ведь пища младенца с первого дня — это молоко. Молоко матери — его пища и лекарство; оно укрепляет его тело и все его органы.
В наши дни существуют заменители грудного молока. Хотя на этикете детской смеси черным по белому написано, что «грудное молоко — лучшая еда для ребенка», многие используют заменители молока.
Я хотел бы воспользоваться этой возможностью, чтобы предупредить об очень проблемной вещи — задавать вопросы на галахические темы у ИИ. Это очень серьезное явление, об опасности которого знают далеко не все.
Точность и искусственный интеллект
Сначала я рассмотрю степень точности искусственного интеллекта в отношении еврейского закона на момент написания статьи. Действительно, ответы, которые вы получаете от искусственного интеллекта, очень впечатляют! Вы получаете подробный, обоснованный ответ, с источниками и даже цитатами.
И это большая опасность!
Попробуйте отследить источники и цитаты дома, и вы обнаружите, что многие из них совершенно не соответствуют действительности. Интеллект просто готовит и сочиняет мидраши, высказывания мудрецов Талмуда, беседы Ребе, истории хасидов и все, что хорошо вписывается в вывод, к которому он пришел.
Я мог бы привести здесь бесчисленное множество примеров; можно сказать, что каждый заданный мной вопрос по еврейскому закону имел источники или цитаты, которые не существовали в природе.
Для иллюстрации приведу один пример. Во время обсуждения роли мужчины в заботе о детях я получил «цитату» из Иерусалимского Талмуда, трактат «Ктубот» 5:7: «Рабби Хия сказал, что он никогда не приказывал своей жене кормить детей или одевать их»…
Примечательно, что в Иерусалимском Талмуде нет ни одного слова из этой «цитаты». Когда я указал на это искусственному интеллекту, то получил ответ, что это действительно ошибка и источник находится в Вавилонском Талмуде, трактат «Йевамот» 63а. Когда я заметил, что этого там тоже нет, то получил ответ, что произошла путаница, а источник находится в Мидраше на Пятикнижие. Я посмотрел и туда, но не смог этого найти (поверьте мне…), а когда я обратил на это внимание робота, он ответил, что такого источника действительно нет, и что он будет искать другой…
Не буду утомлять читателей, но даже после неоднократных предупреждений приводить мне только точные источники, я получил цитаты, которые были созданы в тот момент, поистине «чудесным» образом…
Так что же нам делать?
Прежде всего, мы объявляем всем, кому можем: искусственному интеллекту нельзя доверять ни при каких обстоятельствах в отношении еврейского закона. Ни в отношении «простого» вопроса, ни когда вы получаете четкий, профессиональный и убедительный ответ с обоснованиями, источниками и цитатами.
Правда, это доступный «раввин», который ничем не обременен, и ему легко задать все вопросы, которые не решаются задать настоящему раввину, но указание «сделай себе раввина и избавься от сомнений» говорит о раввине из плоти и крови, а не о «цифровом раввине».
Во-вторых, даже если искусственный интеллект используется исключительно для поиска источников, необходимо внимательно просматривать эти источники и следить за тем, чтобы они действительно обсуждали нужную тему, а также видеть контекст вещей, что порой меняет все дело.
В качестве иллюстрации я увидел в одной из книг, поощряющих «самообучение», вдохновляющую цитату из Талмуда: «Весь мир принадлежит тебе, что бы ты ни хотел сделать в своем мире, делай это», причем намерение автора состояло в том, чтобы побудить человека делать в мире все, что приходит ему в голову.
Любой, кто открывает источник («Санедрин» 38б), сразу понимает, что это предложение было произнесено ангелами-служителями перед Всевышним… ИИ точно процитировал предложение, забыв упомянуть лишь незначительную деталь, а именно, о ком это было произнесено.
А что насчет будущего?
Важно отметить, что даже если мы достигнем точки, где искусственный интеллект будет точен в своих источниках и постановлениях, окажется, что мы не можем ему доверять.
Тора сошла в наш мир и облачилась в человеческий разум, и даже если есть одно правило в Небесном учебном центре, то в Земном суде правило совершенно другое, потому что Тора не на небесах.
Конечно, законы, преподаваемые в Небесном учебном центре, более точны, потому что там нет возможности ошибки. Тем не менее, закон был передан человеку с ограниченным разумом, который будет решать в соответствии с тем, что он понимает сам.
Искусственный интеллект не является человеческим разумом, и фактически он не является ни интеллектом, ни понимающим. Это метод работы, основанный на многочисленных и быстрых вычислениях и комбинациях, и нет никакого распознавания или понимания самих концепций.
Кроме того, любой, кто сталкивался с вопросами по спорным темам, заметит, что манера вопроса и личность спрашивающего сильно влияют на ответ. Например, попробуйте спросить об израильско-арабском конфликте, как еврей, а затем как араб (используя другой аккаунт) — вы сразу заметите, что ИИ всегда склоняется к точке зрения спрашивающего.
В результате будет создана ситуация, в которой человек, задающий вопросы в еврейском законе, будет получать ответы, основанные на его «вводных», а не на истине. При этом не будет ни одного раввина из плоти и крови, который бы расспросил человека о подоплеке и обстоятельствах этого вопроса.
Дополнительные проблемы
Существует также ряд дополнительных проблем в принятии решений на основе ИИ, о которых я кратко упомяну:
1) Понимание реальности необходимо для вынесения решения по еврейскому закону. Искусственный интеллект «знает» реальность исключительно на основе информации, доступной в сети, тогда как раввин из плоти и крови знает саму реальность со всеми нюансами общин, которые нигде не описаны в сети.
2) Неизбежно, что универсальные, нееврейские ценности равенства и гуманности будут включены в «суждение» интеллекта, не так, как правильно по Торе. Конечно, это не будет поощрять нарушение закона, в случаях, когда Тора выносит постановление иначе, чем закон.
3) Традиция постановлений, понимание ситуации часа напряжения и все, что называется «пятым Шулхан Арухом» — будет отсутствовать для этого понимания, потому что не все вещи написаны и могут быть записаны в сети или в книгах. И в частности: небесная помощь, которая сопровождает раввина, ведь, конечно, мы не полагаемся на чудеса и нуждаемся в раввине, знающем законы, но даже после его изучения Всевышний помогает ему не ошибиться в вопросе законодательства. И ИИ, очевидно, не получает этой помощи.
Вывод:
На данном этапе искусственному интеллекту определенно нельзя доверять в вопросах еврейского закона, и, по всей видимости, доверять ему не удастся и в будущем.
На десерт — собственное объяснение от ИИ феномена изобретений ИИ:
Вот научное, глубокое и точное объяснение феномена, при котором системы искусственного интеллекта (вроде той, с которой вы общаетесь) «изобретают» целые источники и цитаты, которые на самом деле не существуют — явление, известное в исследовательском мире как галлюцинация.
Базовая информация: как работает искусственный интеллект GPT?
ИИ, который вы используете, как и GPT, основан на глубокой нейронной сети под названием Transformer. Эта модель не «понимает» и не «знает» информацию в человеческом смысле, но обучается на огромных объемах текста из интернета, книг, статей и т.д. Во время обучения она научилась быть точной в своей способности предсказывать: каким, скорее всего, будет следующее слово или абзац, на основе предыдущего контекста.
Модель не поддерживает «базу данных» источников. Она не извлекает тексты из памяти, а скорее предсказывает новый текст на основе изученных шаблонов языка и логики. Поэтому, когда вы задаете галахический вопрос или запрашиваете цитату из источника, модель не ищет в базе данных стихов, разговоров или организованных страниц, а скорее «дополняет» ответ в соответствии с изученными ею лингвистическими вероятностями.
Так почему же он выдумывает источники?
1) Форма вопроса влияет на тип ответа
Если вы спросите: «Где в Талмуде сказано, что…», модель «чувствует», что от нее ожидают ссылки на источник. Поскольку ее обучение включало много вопросов-ответов со схожей структурой (из реальных или вымышленных источников), она завершает ответ, который звучит правильно по шаблону: название трактата, страница, цитата.
2) Объединение похожих шаблонов
Модель часто видела отрывки вроде: «Рабби Хия сказал…» или «В трактате Ктубот написано…», поэтому она «соединяет» два шаблона вместе, даже если такая комбинация на самом деле никогда не появлялась. Она не проверяет, является ли она правильной, потому что у нее нет механизма «проверки».
3) Отсутствие доступа к живому источнику
GPT на самом деле не подключен к надежному репозиторию галахических текстов (вроде Otzar Hochma или Sefaria). Он не сверяется с существующим источником. Каждая «цитата», которую он пишет, основана на том, что он считает разумным в соответствии со статистическими моделями слов.
4) Отсутствие концептуального понимания
GPT не «знает», что такое «Йевамот 63а», как вы. Он не понимает, что такое «контекст», «традиция» или «сравнение». Он только распознал, что это слова, которые появляются рядом друг с другом много раз.
5) Множественные противоречивые материалы в обучении
Модель часто подвергалась воздействию неточных или неправильных материалов (таких как сфабрикованные цитаты, неоригинальные доклады или пользовательский контент). Поэтому она также изучала ошибочные шаблоны — и затем воспроизводила их, как только это казалось уместным.
Как на самом деле выглядит «галлюцинация»?
Давайте возьмем пример из предложения, которое вы упомянули: «Рабби Хия сказал: я никогда не говорил своей жене кормить моих детей или одевать их». Это стилистическая цитата, которая вписывается в галахическую структуру с именами из Талмуда, архаичным языком и стандартной формой формулировки. Модель создала предложение, которое звучит на 100% аутентично, — потому что она знает много похожих предложений и умеет имитировать стиль Талмуда.
Это можно исправить?
В определенной степени. В настоящее время исследователи работают над несколькими подходами:
1) Подключение к внешним базам знаний — например, подключение модели к реальным книжным базам и принуждение ее извлекать ответы только из информации, которая действительно существует.
2) Модели с истинной памятью и внутренней проверкой — объединение поисковых систем или систем проверки для проверки того, существует ли конкретная цитата на самом деле.
3) Методы сбора доказательств — развитие способности модели «отмечать», какие части ответа являются определенными, а какие — догадками.
Но даже тогда останется фундаментальное ограничение: сама модель не знает, неправа ли она. У нее нет осознанности или ответственности. Она всегда будет продуктом вероятности.
Резюме
Когда искусственный интеллект «изобретает источники», это не преднамеренная ложь, а прямой результат механизма, по которому он работает:
1) Он не помнит, а предсказывает.
2) Он не проверяет, а моделирует.
3) Он не цитирует, а имитирует.
И поэтому, даже если его ответ звучит отточенным, умным и даже точным, он всегда должен проходить независимую человеческую проверку, особенно когда речь идет о таких деликатных областях, как еврейский закон.
Раввин Исраэль Матуф — раввинский судья в учебном центре «Моше Зеев» в Нахалат Ар-Хабад и глава департамента по вопрсам денежных исков и компенсаций различного вида ущербов в «Институте еврейского закона ХАБАДа».
