Нужно обучить ИИ Торе, чтобы он не уничтожил человечество?

Уважаемый раввин, если искусственный интеллект станет умнее самого гениального человека, то, получив самостоятельность, он может уничтожить человечество. Можно научить ИИ не делать другому того, что не хотел бы видеть сделанным себе, но это не даст нужного эффекта, потому что ИИ не может чувствовать боль. Если ИИ никогда не чувствует боль, то он может причинить боль другому, не нарушив закон Гиллеля. Я считаю, что перед тем, как позволить ИИ функционировать самостоятельно, нужно обучить его Торе.

И хоть он будет подчиняться заповедям Торы слепо, не понимая, что он делает, это по крайней мере предотвратит уничтожение человечества. N. Отвечает рав Меир Мучник Здравствуйте, N.!О том, что искусственный интеллект, получив самостоятельность, может стать опасным, люди действительно задумывались уже давно. На данный момент еще не ясно, насколько велик шанс перехода такого сценария из области фантастики в реальность.Но уже сегодня люди сталкиваются с проблемой: ИИ может подсказать практическое решение проблемы, о которой его спросят, но в реальной жизни многие вопросы имеют также этический аспект.

И если Гитлер спросит ИИ, как ему наиболее эффективно уничтожить евреев, тот может ответить без запинки, не задумываясь о том, а хорошо ли это и правильно ли давать такие советы? Как не задумывались автоматы, пули и молекулы газа, с помощью которых евреев реально убивали тогда. «Пуля-дура».Люди это, конечно, понимают, поэтому всё-таки предпринимают какие-то меры, чтобы ограничивать ИИ и направлять в «то» русло.

ИИ «поддается воспитанию», то есть может наблюдать паттерны в людском поведении и учиться их копировать, как ребенок учится на примере взрослых.И тем не менее его можно будет сравнить не столько с ребенком — человеком, сколько с обезьяной или попугаем. Как Вы совершенно правильно замечаете, будучи всё-таки машиной, ИИ всё будет выполнять слепо, не понимая, что делает. Как попугай не понимает слов, которые он повторяет за людьми. И тут, как признают аналитики, много тонкостей, которые даже самый гениальный ИИ необязательно сможет учесть.Более того, Вы также правильно замечаете, что ИИ не может чувствовать боль.

А ведь интересно, что Тора говорит не просто «не причиняйте другим боли», а «возлюби ближнего как самого себя» (Ваикра ), или, в формулировке мудрецов, «то, что ненавистно тебе, не делай ближнему» (Шабат 31а). То есть Тора, давая нам заповеди, опирается на чувства человека: относись к чувствам ближнего так, как хочешь, чтобы относились к твоим — уже зная по опыту, каковы твои собственные чувства.

Гениальность тут не поможет, тут нужен именно пресловутый «человеческий фактор» — в хорошем смысле слова.И тут мы подходим к важному моменту, который надо понять прежде, чем будем рекомендовать обучить ИИ Торе.Что такое ИИ? В конечном счете — инструмент, созданный для того, чтобы человек его использовал для эффективного решения поставленных задач, практическая помощь в этом.А что такое Тора? Нет, не инструмент, не «надстройка», которая тоже «помогает»

человеку достигнуть цели «правильным» способом, кашерным. Она заботится не о «средстве», с помощью которого надо достигнуть цели. А о самой цели, которая у нее другая — воспитание человека и усовершенствование его и мира.Когда человек достигает своей цели правильными средствами, он достигает цели Торы по отношению к самому себе: становится достойным человеком и кладет еще один кирпич в строительстве здания своей души.

А также совершенствует мир в духовном плане — с помощью выполнения заповеди, воли Б-га.Причем именно как человек — борясь со своими слабостями и недостатками, с соблазнами, которые ему предлагает ецер а-ра (его дурное начало). При этом он опирается на свои собственные чувства, подсказывающие ему, что — приятное, а что — болезненное.Поэтому, когда Моше поднялся на гору Синай, чтобы принять Тору и спустить ее на землю, а ангелы воспротивились, Моше сказал им: в Торе написано: «не убивай, не кради, не прелюбодействуй» — а у вас разве есть эти соблазны? (Пиркей дэ-Раби Элиэзер 46).

То есть Тора дана именно неидеальным людям ради их воспитания, чтобы учились преодолевать себя. А ангелам Тора в таком качестве не нужна.В этом плане и ИИ «подобен ангелу», только ниже по уровню, ибо ангелы всё-таки созданы с целью служения Б-гу «в чистом виде», «невинно», как дети, а ИИ — инструмент человека.Более того, заповеди, выполняя которые человек духовно совершенствует себя и мир, бывают двух типов. Уже рассмотренные нами заповеди возлюбить ближнего и не убивать относятся к категории мишпатим — заповеди, смысл которых человек может понимать и чувствовать, такие, к которым можно прийти и без Торы.Но есть и категория хуким — заповеди, смысл которых человек естественным образом не понимает и не чувствует, для него они — просто приказы Б-га. И выполняет он их не потому, что «так хорошо», а потому, что так повелел Б-г, так считает правильным Он.

Например, накладывать тфилин, брать четыре вида растений в Суккот, воздерживаться от некашерной пищи. Всему этому есть объяснения, но сам человек к этому не пришел бы и не сделал бы так без предписания Б-га.Выполнение этих заповедей совершенствует человека и мир, во-первых, потому, что так человек преодолевает себя в ином плане — действует из любви к Б-гу, вопреки собственному ощущению, что «это бессмысленно». Как мужчина покупает женщине цветы, хотя сам не совсем понимает, почему на них надо тратить деньги, и для себя не стал бы их покупать: именно потому это знак любви к женщине, он их купил только ради нее.Но также — именно потому, что их купил он, человек, которого и она может полюбить, а то уже и любит, она рада их от него получить. И выполнение подобных заповедей Торы «приятно»

Б-гу, именно когда их выполняют евреи, Его избранный народ, его «гвардия». Так парады перед королевским дворцом имеют смысл, только когда шагает королевская гвардия, в своей форме, выполняя свое предназначение. Поэтому обучать этому ИИ уж точно никакого смысла нет.А, во-вторых, в цветах всё-таки есть красота, только мужчина ее не полностью чувствует. И заповеди хуким всё-таки имеют свои духовные причины, и их выполнение «нравится»

Б-гу потому, что Он видит в этом то, чего не видим мы. В этом плане мы подобны дальтоникам или людям, лишенным музыкального слуха, потому не видим красивого сочетания цветов или нам не ласкает слух приятная гармония. Этого не объяснишь, тут не логика, а ощущения; либо чувствуешь, либо нет.Говорят мудрецы: когда Адам был только создан и находился на высшем духовном уровне, а также когда евреи достигли его уровня во время дарования Торы, смысл заповедей хуким им был ясен так же, как смысл заповедей мишпатим. Т.е.

они обрели то «зрение», тот духовный «музыкальный слух», при котором исполнение заповеди тфилин стало в их глазах таким же красивым и правильным, как выполнение заповеди о любви к ближнему. (Поэтому они провозгласили наасэ вэ-нишма — «сделаем и услышим». Сделаем еще до того, как услышим и поймем причины, по которым необходимо выполнять заповеди, ибо нам уже ясно, что делать, как очевидно любому, что ближнего надо любить).Но это именно духовное «зрение» и «чувство», которое человеку становится доступным на определенном уровне, и именно на этой основе хорошо выполнить заповедь.

Поэтому и обучение искусственного интеллекта таким заповедям бессмысленно.Наконец, даже заповеди категории мишпатим всё-таки даны Торой и в них тоже есть элементы, понятные не на «простом» уровне, а на том, высоком, духовном, как хуким. Ибо на глубинном уровне все заповеди едины и даны для совершенствования человека и мира. И на том уровне между ними нет различия: они «понятны»

именно как «музыкальная гармония».Итак, максимум, что мы можем, — обучить ИИ заповедям категории мишпатим частично, точнее, определенным принципам, взятым из этих заповедей. Да и тут есть свои сложности, ведь даже одни и те же принципы могут применяться по-разному в разных ситуациях, в отношении разных людей. Поэтому необходимо обращаться к раввинам, которые хорошо разбираются во всем этом, могут оценить каждую ситуацию и решить, какие именно законы и каким именно образом применимы в ней на практике.Так что правильно говорят: в этических вопросах полагаться на ИИ не следует. Добавим только: и в любых вопросах, имеющих отношение к заповедям Торы, ее предписаниям или запретам.

С этим продолжаем обращаться к раввинам.С уважением, Меир Мучник