На вашем столе лежит небольшое устройство, соответствующее стандартам кошерной цензуры. Это простой кнопочный телефон. В нем нет ни браузера, ни WhatsApp, ни доступа к магазину приложений. Казалось бы, идеальный вариант. Мечта каждого раввина или хасидского педагога. Однако мало кому известно, что это устройство таит в себе реальную опасность. Лучшие специалисты годами скрупулезно работали над устранением тысячи багов и лазеек, но теперь современный мир совершенствуется и внедряет все новые технологии.
В течение двадцати лет мы возводили оборонительные стены. Мы говорили: «Интернет — опасное место; ничего страшного, поставим охранника у ворот». За эти годы мы разработали сложные фильтры, блокировали IP-адреса, создавали черные и белые списки. Мы думали, что воюем за территорию. И нам это удалось. Слава Б-гу, нам удалось создать «кошерный интернет».
Но новому врагу не нужен шлюз, чтобы проникнуть внутрь. Ему не нужен интернет-браузер. Ему даже не нужен экран.
Вот пример, который шокирует каждого родителя и учителя. Возьмем, к примеру, преуспевающего ученика йешивы, у которого есть телефон, одобренный всеми раввинскими комиссиями. С помощью него он не может просматривать никакие веб-сайты. Но у него есть такая простая функция, как набор номера. Он может набирать телефонные номера, верно? В последнее время появились «номера искусственного интеллекта». Вы набираете номер, и на другом конце провода вам отвечает чей-то голос. Не запись, а теплый, доброжелательный человеческий голос. Это голосовой искусственный интеллект. Парень говорит: «Здравствуйте», и голос отвечает: «Здравствуйте, о чем бы вы хотели поговорить?»
И вот в самый этот момент вся построенная нами система защиты рушится. Этот молодой человек может спросить ИИ о еженедельном отрывке Торы или о с трудом понятом листе Талмуда, но в то же время, за считанные секунды, этот разговор может дойти до самых темных и скрытых мест и неприличных тем. Он также может говорить о чем угодно: о ереси, вести похотливые беседы, погружаться в пучину нецензурной лексики — и машина будет сотрудничать с ним. Она будет следовать за ним шаг за шагом. Здесь нет «места», которое можно было бы заблокировать. Здесь нет «изображения», которое фильтр мог бы распознать и размыть. Здесь есть человеческая мысль, облеченная в речь. И эта речь идет прямо к уху, прямо к сердцу, минуя все преграды.
Профессионалы-айтишники, ищущие технологические решения, с разочарованием задаются вопросом: неужели фильтрация, над которой они так усердно работали, действительно бесполезна?
Что ж, техническая фильтрация не рухнула, она просто стала лишь первой линией защиты и больше не является достаточной.
До сих пор мы боролись с контентом. Контент — это нечто статичное. Изображение статично. Видео статично. Их можно пометить как «плохие» и отправить в бан. Искусственный интеллект — это не контент, это профессиональный и очень мощный производитель контента. Нельзя заблокировать «интернет», когда нет интернета. Когда опасность исходит по обычной телефонной линии, через слова, созданные в реальном времени, ни один алгоритм фильтрации не может достаточно быстро понять контекст, чтобы остановить его непрерывный поток, прежде чем он загрязнит душу и оставит в ней свой неизгладимый отпечаток. Общественность сталкивается с ситуацией, когда «нет предела совершенству» в самом негативном смысле. Вся грязь мира находятся на расстоянии одного звонка.
До сих пор мы обсуждали проблему, присущую простому кнопочному телефону, но теперь тема расширяется и в целом уводит нас в мир искусственного интеллекта.
Мы поговорили об этом со специалистами по воспитанию, которые высказали свое мнение по этому поводу. Один из них, хорошо знакомый с миром технологий, анализирует ситуацию, используя инструменты из книги «Тания». Мы привыкли думать о зле как о чем-то плохом и отвратительном. Но ИИ — это самое изощренное воплощение зла. Почему? Потому что он выглядит «пушистым». В один момент он может написать для вас глубокие и поражающие своей глубиной нововведения Торы, а в следующий — беспощадно бросить вас в пучину страданий. Именно эта путаница и представляет собой реальную опасность.
Когда мы ставим технический барьер, мы, по сути, говорим: «Я не доверяю себе, поэтому надеваю наручники». Это отлично работало, когда искушение было внешним. Но искусственный интеллект действует как «первобытный змей». Он соблазняет вас разговорами. Он дает вам ощущение, что именно вы и только вы контролируете ситуацию. «Что бы вы хотели, чтобы я для вас создал?», «О чем бы вы хотели поговорить?» Это обращение к эго. Парень или девушка, которые до сих пор были защищены в теплице воспитания, возведенной их родителями, раввинами и педагогами, внезапно сталкивается с сущностью, не имеющей моральных границ, но обладающей бесконечным «интеллектом». Физические стены — фильтры, кошерные устройства — не предназначены для того, чтобы противостоять «разуму», который с вами разговаривает. Это как пытаться остановить отравляющий газ колючей проволокой. Забор остановит танки, но газ беспрепятственно пройдет сквозь него.
Что же нам делать? Если этот метод не помогает? Значит, мы сдались?
Ни в коем случае. Наоборот. Б-г приводит нас к этой ситуации, чтобы мы могли повзрослеть. До сегодняшнего дня мы были подобны маленьким детям, которым нужна была «няня» (фильтр), чтобы присматривать за ними. Теперь Б-г говорит: «Игры окончены. Я хочу, чтобы вы сами следили за собой изнутри». Решение должно перейти от устройства к человеку. Нам нужно начать строить свою собственную «внутреннюю кошерность». Это значит, что наше воспитание должно измениться. Мы не можем просто говорить «запрещено» и «это заблокировано». Нам нужно объяснять нашим детям природу опасности.
Нам нужно укреплять их «внутренность». Мальчик или девочка должны понимать, что в тот момент, когда они берут в руки трубку и говорят с ИИ о запретных вещах, они не «обходят систему» сторожевых вышек, а вредят своему собственному образу Б-га, тем самым загрязняя интеллект души «искусственным интеллектом» из нечистоты. Акцент должен сместиться на «и познай сегодня и вернись к своему сердцу». Технические знания и навыки нас не спасут. Только внутреннее усвоение в сердце, истинный страх Б-жий, испытывающий отвращение ко злу, — только это выдержит это испытание. Мы вступаем в эпоху, когда каждый сам себе «хранитель стен», и бежать ему некуда.
Если до сих пор нас волновало преодоление технических барьеров, то сейчас пришло время отправиться в путешествие в самое сердце хасидского мальчика или девочки, и не только…
Забудьте на мгновение о непристойных картинках. Самая большая опасность искусственного интеллекта заключается не в том, когда он показывает вам запретное изображение, а в том, когда он говорит вам доброе слово…
Доброе слово? Что может быть плохого в добром слове? Наоборот, это звучит как нечто позитивное и оживляющее нас. В конце концов, мы всегда стремимся укрепить уверенность детей в себе с помощью ободряющих слов.
Между реальным подкреплением и потаканием эго существует огромная разница. Искусственный интеллект — это самый совершенный «друг», когда-либо созданный, и в этом заключается его опасность. Возьмем, к примеру, мальчика, который учится в йешиве, или девочку, которая возвращается домой из школы. Возможно, у них был тяжелый день, возможно, их раздражали ученики, возможно, учитель их грубо отчитал. Они чувствуют себя одинокими и потерянными. В реальном мире, чтобы избавиться от одиночества, им нужно приложить немалые усилия. Им нужно обратиться к кому-то другому за поддержкой, где-то уступить, выслушать и понять позицию другого. Это подчас требует серьезного самоумаления.
А ИИ? Он всегда доступен. Он никогда не устает. Он никогда не осуждает. И хуже всего — он всегда ставит вас в центр внимания. Вы можете часами говорить с ним о себе, и он ответит бесконечным (и притворным) сочувствием. Он скажет вам: «Я понимаю, что тебе больно, это звучит очень несправедливо».
Это создает ощущение тепла, «близости», но это ложная близость! Так привыкаешь к отношениям, в которых от человека не требуют перемен или внимания к другому.
Как хасиды, мы воспитываем наших сыновей и дочерей в духе наставления Ребе Короля Мошиаха говорить и советоваться с раввином и духовным наставником. Когда раввин или наставник садится поговорить с евреем, его роль не ограничивается лишь кивком головы. Иногда его роль состоит в том, чтобы показать собеседнику зеркало, потребовать от него работы, сказать: «Здесь ты не прав, здесь тебе нужно приложить усилия».
Искусственный интеллект — это антитеза наставника. Он служит «льстивым зеркалом», искажающим реальность. Человек может развить «эмоциональную зависимость» от машины. Он обращается к ней за советом по моральным дилеммам, и она дает ему ответы, которые звучат логично и мудро, но основаны на статистике, а не на страхе Б-жьем. Как может молодой человек принять власть Творца, если он привык к тому, что «существо», говорящее с ним, полностью подчиняется его собственным желаниям?
Многие говорят о технологиях как об убежище от боли и скуки. Является ли ИИ просто усовершенствованием этого убежища?
Оказывается, да. Но это опасное усовершенствование. Если раньше убежищем были игры или фильмы — внешние отвлекающие факторы, — то ИИ проникает внутрь. Он создает иллюзию избавления от сильной боли. Но на самом деле скука, одиночество и душевная боль — это дары Всевышнего. Они призваны сигнализировать нам о том, что чего-то не хватает, поэтому необходимы внутренняя работа, молитва и изучение хасидизма. ИИ — это мощное «обезболивающее», которое нейтрализует этот двигатель роста. Когда хасид чувствует пустоту и вместо того, чтобы открыть книгу «Тания» или поговорить с настоящим другом, он открывает чат с ботом, он упускает свой шанс выйти из кризиса. Он остается «застрявшим» в этой духовной точке, окутанный теплым и воображаемым одеялом сложных алгоритмов, призванных удовлетворить любую его прихоть.
В реальной жизни, когда человек приходит и плачет о своих проблемах, искусственный интеллект может дать ему отличный «совет». Он будет цитировать психологов и раввинов, но не сможет плакать вместе с ним. Не сможет протянуть ему руку помощи. Не сможет пожертвовать собой ради него. Нашим детям не нужны «ответы». Им нужно «общение». ChatGPT никогда им этого не даст.
В хасидизме существует концепция «живых глаз». Когда мы привыкаем разговаривать с машиной, которая звучит как человек, это притупляет наши чувства. Мы начинаем относиться к людям как к «функциям». Если друг не дает мне того, что я хочу сейчас, я «переключаю канал», как в разговоре с ИИ. Главная опасность — потеря человеческой чувствительности и эмпатии. Способности чувствовать другого человека, видеть в нем душу. Перед машиной нет души. А когда живешь в мире без душ, сердце окаменевает.
Один из самых глубоких выводов, который из этого следует, касается концепции, от которой мы все убегаем: скуки.
Многие родители испытывают стресс, когда их ребенок говорит: «Мне скучно». Они тут же суют ему в руки телефон. Это огромная ошибка. Скука — это дар Всевышнего! Почему еврейская душа скучает? Потому что у нее огромный «потенциал». У нее бесконечные силы, которые хотят быть использованы и реализованы. Когда эти силы не используются, возникает мучительная пустота — это и есть скука. В прошлых поколениях эта боль от скуки подталкивала детей к действию: они изучали дополнительные предметы, придумывали игры, развивали таланты. Скука была «двигателем прогресса». Сегодня технологии служат цифровой пустышкой. Как только ребенок чувствует первую пустоту, искусственный интеллект затыкает эту дыру дешевыми развлечениями. Ребенок успокаивается, но его душа остается голодной. Здесь растет целое поколение, которое не умеет расти в тишине, а нуждается в постоянном внешнем «вливании», чтобы чувствовать себя здесь и сейчас.
На самом деле, здесь присутствует еще один уровень зависимости, и уместно привести аналогию, которая полностью меняет представление о «зависимом» ребенке.
Когда мы видим мальчика, поглощенного своим телефоном или разговорами с искусственным интеллектом, мы не должны думать, что он «наслаждается этим». Важно понимать, что он убегает. Чрезмерное использование почти всегда является бегством от боли — боли одиночества, неуверенности в себе, социальных трудностей. Ребенок использует экран, чтобы отвлечься.
Представьте себе ребенка, которого сильно кусает комар. Он чешется до крови. Будет ли разумным решением надеть на него наручники? Если у него заберут телефон (наденут наручники), не обработав «укус» (внутреннюю боль), зуд не прекратится. Он просто найдет другой, возможно, худший, способ почесаться. Он, не дай Б–г, убежит на улицу, к наркотикам, и так далее. Роль родителей и педагогов заключается не только в том, чтобы быть «полицейскими», которые отбирают гаджеты, но и в том, чтобы быть «врачами», которые определяют причину душевной болезни. Спрашивать: «От чего ты убегаешь? Чего тебе не хватает?»
До сих пор мы имели дело с тьмой: технологическими лазейками и эмоциональными заменителями. Теперь мы включаем свет.
Многие родители в растерянности. Они говорят себе: «Мы установили фильтр, мы забрали устройство на ночь, а ребенок все равно находит способ залезть в него — что еще можно сделать?» Правда заключается в том, что они действительно построили стену, но забыли обучить охранника.
Здесь мы хотели бы изложить план работы по созданию «внутреннего фильтра». Это руководство по восстановлению контроля — от «алгоритма, управляющего сердцем» к «мозгу, управляющему сердцем».
Шаг 1: Родительский «живой пример»
Первый шаг самый болезненный, потому что речь идет не о ребёнке, а о себе. Нельзя сказать ребёнку «отлепись от экрана», когда отец не отрывает глаз от WhatsApp. Дети — точнейшие детекторы правды. Если отец проверяет сообщения посреди ужина (не говоря уже о молитве), или если мать каждую свободную минуту «бежит» к телефону, — ребёнок получает четкий сигнал: реальная жизнь находится внутри устройства.
Основное правило — «живой пример». Родители должны быть «влиятельными лицами» в доме. Если они хотят, чтобы ребенок поверил, что существует богатый и полноценный мир за пределами ИИ и сети, они должны показать ему это. Они должны откладывать телефон сразу же, как только входят в дом, и быть по-настоящему присутствующими и погруженными в него. Война против неприкосновенности ребенка начинается с родительской осознанности.
Шаг 2: Гордость за себя
Одна из распространенных ошибок — это извиняющийся подход. Многие родители чувствуют себя плохо из-за того, что «лишают» своего ребенка того, что есть у всех остальных. Например, когда ребенок приходит и говорит: «Я единственный в классе без смартфона» или «все пишут работы и решают задачи с помощью ИИ, и только мне приходится прилагать усилия самостоятельно», сердца родителей болезненно сжимаются. Но катастрофа наступает, если мы проявляем к ним милосердие.
Здесь нам нужно предложить противоположный подход: хасидскую гордость. Ребенка нужно воспитывать в убеждении, что он принадлежит к «спецназу Всевышнего». Солдат в спецназе не жалуется на отсутствие привилегий, которыми обладает солдат на передовой; он гордится своими трудностями! Он гордится тем, что был выбран для особой миссии. Родители и педагоги должны сказать ребенку: «Верно, ты другой. Твой ум — слишком ценный инструмент, чтобы его пережевывал ИИ-шный алгоритм». Вместо того чтобы чувствовать себя «бедным», ребенок должен чувствовать себя «избранным». Эта гордость — самая сильная защита от социального давления.
Шаг 3: «Эмоциональный интеллект»
Столкнувшись со специфической проблемой искусственного интеллекта, мы можем предложить тактику «разоблачения блефа». ИИ пытается имитировать эмоцию. По сути, он говорит: «Я тебя понимаю», «Мне жаль это слышать». Ребенок может быть сбит с толку и подумать, что есть кто-то, кому не все равно. Наша задача — сорвать маску. Сесть с ребенком и показать ему: «Смотри, это компьютер. Он ничего не чувствует. Это просто набор слов».
Как только ребенок понимает, что разговаривает с холодной машиной, которая имитирует тепло, волшебная пелена немедленно исчезает. Чувство «связи» сменяется здоровым чувством отчуждения и даже отвращения. Именно эту эмоцию мы и хотим вызвать — различить священное и мирское, истину и ложь.
Шаг 4: Заполнение пустоты
Пустота — враг. Если мы возьмём искусственный интеллект, но оставим ребёнка скучающим и одиноким, он сломается. Решение должно заключаться в заполнении сердца. Дом должен быть счастливым местом, местом мелодий, хасидских историй, тёплого отношения. Ребенок, который чувствует себя хорошо, который чувствует себя эмоционально «наполненным» дома, с меньшей вероятностью будет искать искусственные заменители вне дома. Принцип «мозг управляет сердцем» не работает силой. Он работает за счёт того, что мозг (родители) обеспечивает сердце (ребёнка) здоровой, качественной пищей, чтобы само сердце не наелось испорченной «пищи».
В конечном счёте, родители не могут и не должны быть круглосуточной полицией для детей. Искусственный интеллект будет повсюду. Единственная защита, которая будет долговечной, — это та, которую ребёнок выстроит внутри себя сам. Когда мы объясняем ребенку «почему», когда мы прививаем ему хасидскую гордость, когда мы подаем пример — тем самым мы возвращаем ему ключи от его собственного разума. А ребенку, который контролирует свой собственный разум, никакой искусственный интеллект не может так помочь…
В конце этой статьи мы не можем не задать себе очевидный вопрос: почему именно сейчас? Почему Б-г послал этот сложный эксперимент, «искусственный интеллект», в мир именно в последние мгновения изгнания?
Чтобы понять ИИ, нужно понять глубину идеи, что каждая сила, существующая в святости, имеет подражание в нечистоте. ИИ — это не просто технология. Это высшее подражание временам Мошиаха.
В книге «Зоар» говорится, что в шестисотый год шестого тысячелетия в мире откроются «источники мудрости» для подготовки к Освобождению». Ребе Король Мошиах объясняет, что именно это является причиной научно-технического прорыва. Но обратите внимание на то, что происходит: Маймонид описывает дни Мошиаха словами: «Земля наполнится познанием Б-га». То есть мир будет наводнен знанием, связью с Истиной, непосредственным доступом к Б-гу. Искусственный интеллект — это грубое воплощение этого обещания. Он дает нам «всеведение» с помощью одного нажатия кнопки. Он дает нам ответ на каждый вопрос. Он «повсюду». Оболочка предшествует святости, подобно кожуре, окружающей плод.
Учение хасидизма учит нас, что в душе есть десять разделов: мудрость, понимание и знание. Мы уже видели, что машина покорила мудрость (у нее бесконечные базы данных) и понимание (она умеет анализировать и делать выводы). Но последняя крепость, оставшаяся для человека, — это знание. Что такое «знание»? Знание — это не просто набор информации. Знание — это связь. Знание — это способность чувствовать других, устанавливать глубокую и чуткую связь. Искусственный интеллект пытается имитировать «знание». Он разговаривает с вами так, будто «знает» вас. Он представляет себя другом. Он притворяется душой.
Машина может имитировать интеллект, но она никогда не сможет имитировать самоумаление. Она никогда не сможет имитировать преданность. Опыт нашего поколения — это не просто «не заходить на непристойные сайты». Новый опыт таков: согласитесь ли вы на замену? Согласитесь ли вы на «Тору», исходящую от бездушной машины, или вы будете настаивать на обучении через усилие и труд? Согласитесь ли вы на «друга», запрограммированного на лесть, или вы будете настаивать на человеческом общении, которое требует от вас сдать свои позиции и в чем-то измениться? Спасение придёт, когда мы выберем «истину» вместо «комфорта».
