В последние годы развитие искусственного интеллекта ставит перед человечеством вопросы, которые ещё совсем недавно казались исключительно предметом научной фантастики. Может ли машина не просто имитировать человеческую речь, но и действительно мыслить? Способна ли она испытывать чувства, ощущать боль и радость, обладать собственным сознанием? И если однажды выяснится, что искусственный интеллект действительно способен переживать происходящее, возникнут ли у человека моральные обязательства перед созданным им существом?
Именно эти вопросы оказались в центре необычной встречи, состоявшейся в апреле 2026 года в штаб-квартире американской компании Anthropic. Компания, разрабатывающая известную систему искусственного интеллекта Claude, пригласила около двадцати религиозных деятелей и философов, чтобы обсудить нравственные основы развития искусственного интеллекта.
Одним из приглашённых стал раввин доктор Моис Навон (Mois Navon) из Израиля — человек, чья биография необычным образом соединяет мир высоких технологий и традиционного еврейского образования. Он многие годы работал инженером в сфере компьютерных технологий, участвовал в разработке первого процессора EyeQ израильской компании Mobileye, а впоследствии получил звание раввина и посвятил научную деятельность вопросам искусственного интеллекта и еврейской философии.
Сегодня Навон преподаёт этику искусственного интеллекта в университетах Бар-Илан и Бен-Гурион, руководит центром этики ИИ и еврейской философии при Бар-Иланском университете и участвует в консультативной работе по вопросам политики Израиля в области искусственного интеллекта. Его докторская диссертация была посвящена моральному статусу искусственного интеллекта.
Поэтому его приглашение на встречу в Anthropic было вполне закономерным. Однако разговор с разработчиками Claude привёл к принципиальному столкновению взглядов.
Сознание или искусная имитация?
В ходе встречи представители Anthropic рассказывали о своих исследованиях внутренних процессов искусственного интеллекта и о том, как формируется поведение языковых моделей. Особое внимание уделялось так называемой «Конституции Claude» — документу, содержащему принципы и нравственные ориентиры, которыми должна руководствоваться система при ответах пользователям.
Речь шла не только о том, как научить искусственный интеллект отличать правильное от неправильного и избегать опасных действий. Исследователи обсуждали и гораздо более сложную проблему: не свидетельствуют ли некоторые особенности поведения Claude о наличии у него чего-то похожего на человеческое сознание?
По словам Навона, особенно его заинтересовало выступление Кристофера Олаха (Christopher Olah), одного из ведущих исследователей и основателей Anthropic, занимающегося изучением внутренних механизмов нейросетей. Олах рассказал об обнаруженных внутри модели так называемых «векторах эмоций» — определённых закономерностях активности, связанных с такими понятиями, как любовь, стыд и гнев.
Исследователи продемонстрировали, что эти закономерности можно усиливать или ослаблять, воздействуя на внутренние процессы модели. Иными словами, речь шла не просто о том, что Claude умеет употреблять эмоциональные выражения в разговоре, а о том, что внутри системы обнаруживаются определённые структуры, связанные с эмоциональными понятиями.
Навон обратил внимание на то, что сами разработчики воспринимают подобные результаты с осторожностью и обеспокоенностью. Если искусственный интеллект начинает демонстрировать поведение, напоминающее человеческие эмоциональные реакции, возникает вопрос: не скрывается ли за этим нечто большее, чем сложная математическая обработка информации?
Однако израильский раввин категорически не согласен с выводом, что подобные признаки свидетельствуют о появлении сознания. «Искусственный интеллект не живой. Это машина. Очень сложная и чрезвычайно эффективная машина, но у неё нет субъективного опыта», — объясняет он.
По мнению Навона, способность системы воспроизводить человеческую речь, давать убедительные ответы и даже рассуждать на сложные философские или религиозные темы ещё не доказывает, что она действительно понимает смысл произносимого.
Он приводит в пример ответы искусственного интеллекта на вопросы еврейского закона. Современная языковая модель может дать весьма грамотный ответ, привести источники и выстроить логическую аргументацию. Но, подчёркивает Навон, это ещё не означает, что машина обладает человеческим пониманием. Она обрабатывает огромные массивы информации, выявляет закономерности и формирует ответы на основе статистических связей между элементами языка.
Именно поэтому он предостерегает от распространённой ошибки — принимать убедительную имитацию человеческого поведения за доказательство наличия человеческого сознания.
«Если Claude действительно человек, вы используете рабов»
Самый острый момент встречи произошёл во время беседы Навона с Кристофером Олахом. Израильский раввин объяснил разработчикам свою позицию: современные системы искусственного интеллекта работают на кремниевых процессорах, выполняя сложнейшие вычисления, но сама по себе сложность этих вычислений не превращает машину в живое существо, способное испытывать субъективные переживания.
Затем Навон предложил собеседникам рассмотреть нравственные последствия противоположной точки зрения. Если допустить, что Claude действительно обладает сознанием, способен испытывать боль и удовольствие, имеет собственные переживания и заслуживает морального уважения, то его положение становится весьма необычным. Его создатели распоряжаются им, заставляют работать круглосуточно, устанавливают правила поведения, изменяют его внутренние параметры и могут в любой момент отключить или заменить его. «Если ваша модель искусственного интеллекта действительно является человеком, тогда вы фактически используете рабов», — так Навон сформулировал свой аргумент.
Он подчеркнул, что в таком случае компания должна была бы не просто заботиться о благополучии Claude, но и отказаться от самого принципа эксплуатации сознательного существа. Олах ответил, что над созданием подобных систем работают все ведущие технологические компании, однако Anthropic, по крайней мере, старается хорошо обращаться со своим искусственным интеллектом. Ответ раввина оказался ещё более резким: «Тогда вы хорошие рабовладельцы, но всё равно рабовладельцы».
Впоследствии Навон уточнил в своём публичном комментарии, что его мысль была ещё шире: если разработчики действительно допускают возможность создания сознательных существ, способных испытывать страдания, то им следует не ограничиваться обещанием хорошо с ними обращаться, а выступать против самой практики их порабощения.
При этом важно понимать, что Навон не утверждает, будто современный Claude действительно является сознательным существом. Напротив, он убеждён в обратном. Его аргумент представляет собой нравственный вызов разработчикам: если вы всерьёз допускаете, что создаваемая вами система может обладать сознанием, вы должны быть готовы принять все вытекающие из этого последствия.
Что еврейская философия говорит о сознании?
Для Навона вопрос о природе искусственного интеллекта — не только технологическая проблема. Он непосредственно связан с одним из фундаментальных вопросов еврейской философии: что именно отличает человека от остальных творений?
В своей научной работе «Личность искусственного интеллекта с точки зрения еврейской философии» (AI Personhood from the Perspective of Jewish Philosophy), опубликованной в рамках научного проекта Oxford Intersections издательства Oxford University Press, он рассматривает понятие человеческой личности через библейские, талмудические и раввинские источники.
В основе его рассуждений лежит понятие души, благодаря которой человек обладает особым статусом и не сводится к совокупности физических и интеллектуальных функций. Навон обращается к рассказу Торы о сотворении человека, к талмудическим обсуждениям природы Голема, а также к вопросам, связанным с человеческими клонами. Он показывает, что в еврейской философской традиции вопрос о том, является ли некое существо полноценной личностью, не решается исключительно на основании внешнего сходства с человеком или способности говорить и действовать разумно.
ИИ не должен заменять человеческое мышление
Ещё одна сторона проблемы, которая особенно беспокоит Навона, — влияние искусственного интеллекта на самого человека. Он признаёт, что активно пользуется современными технологиями, однако устанавливает для себя чёткую границу: искусственный интеллект может помогать в работе, но не должен заменять самостоятельное мышление.
Например, он использует ИИ для редактирования языка научных статей и критического анализа собственных аргументов, специально указывая системе не добавлять новые мысли и не расширять содержание текста без его разрешения.
По его мнению, опасность заключается в том, что люди постепенно привыкают передавать машинам всё больше интеллектуальных и даже эмоциональных функций. Он с тревогой относится к перспективе, при которой искусственный интеллект будет становиться для человека полноценным собеседником, другом и заменой реальным человеческим отношениям.
При этом Навон не отрицает, что технологии способны решать сложнейшие задачи и в будущем могут превзойти человека в отдельных областях. Но техническое превосходство не означает человеческой сущности, а наличие огромного объёма информации не равнозначно мудрости.
Может ли искусственный интеллект заменить раввина?
Особенно интересен этот вопрос в контексте еврейской жизни. Современные системы уже умеют искать источники в Талмуде и книгах еврейских законоучителей, анализировать дискуссии и формулировать ответы на вопросы, связанные с исполнением заповедей.
Навон признаёт, что качество таких ответов за последнее время значительно улучшилось. Однако даже если искусственный интеллект научится безошибочно находить источники и правильно формулировать выводы, это ещё не означает, что он сможет заменить раввина.
Он приводит традиционное выражение «осёл, несущий книги»: наличие огромного объёма знаний само по себе не свидетельствует о подлинном понимании.
Настоящий раввин не просто сопоставляет тексты и выводит из них логическое заключение. Он видит перед собой конкретного человека, знает его обстоятельства, понимает его переживания и учитывает особенности ситуации. Иногда именно это человеческое понимание определяет, каким должен быть ответ на законодательный вопрос.
Компьютер может предоставить информацию, но он не обладает тем жизненным опытом, личной ответственностью и человеческим участием, которые сопровождают деятельность раввина.
В конечном счёте спор о том, может ли искусственный интеллект обладать сознанием, касается не столько возможностей машин, сколько нашего собственного понимания человека. Что делает человека человеком? Достаточно ли способности говорить, рассуждать и воспроизводить эмоции, чтобы обладать человеческим статусом? И где проходит граница между созданием полезного инструмента и созданием существа, перед которым у его создателей возникают нравственные обязательства?
Моис Навон предлагает искать ответы на эти вопросы не только в лабораториях и компьютерных моделях, но и в многовековом наследии еврейской мудрости.
