Поиск по разделу:

Раздел ведет рав Элиягу Эссас

Всё больше разговоров о том, что искусственный интеллект приведёт к тому, что мы перестанем различать между виртуальной и обычной реальностью. А кроме того, не будет возможности отличать истину от фейка.

Можно будет, например, подделать новостные сообщения, речь людей, изображения. Когда-нибудь люди просто потеряют связь с реальностью и всё.

Беспокоит ли вас эта проблема и что вы об этом думаете?

Валерий
Новосибирск

Результаты технологического прогресса и его влияние на нашу жизнь далеко не всегда предсказуемы. Сказать тут можно только о том, что эти процессы вносят в нашу действительность и позитивные и негативные элементы.

Это верно для любого явления в мире. Так, к примеру, глобальное распространение сети интернета кардинально изменило наш образ жизни и повлияло на сознание всего общества в целом и каждого из нас, в частности. И в этих изменениях есть и положительные и иные аспекты.

Это влияние, среди прочего, привело к размыванию границ между реальным и виртуальным миром, зачастую подменяя реальные события и отношения — виртуальными (как это произошло с понятием «дружба»). А нередко — и полностью иллюзорными.

Сегодня, как Вы отметили, мир оказался на пороге новой проблемы — еще более сильного размывания границ, когда происходит замена реальных фактов на вымышленные.

Вместе с этим — на пороге реальная опасность оказаться в плену иллюзий. И небезобидных, но —  таких, за которыми стоят люди и силы, имеющие возможность оказывать на наше сознание негативное влияние. А, может даже — и управлять им.

Быть может, появилась необходимость остановить этот процесс?

В материальной области вопрос этот остается открытым, и вряд ли кто-то в состоянии дать на него ответ.

Вспомним, например, о том, что создание атомной бомбы было «побочным», а, вполне возможно — неотвратимым эффектом развития науки.

Предоставленная Всевышним свобода выбора закрепляет за каждым человеком право на любой поступок, свободу мысли и творчества. Свободу, которая способна нести в себе и полезные и разрушительные элементы.

Вернемся к опасению потерять связь с реальностью.

Речь, по сути, не идет только о пребывании в иллюзиях. Это, как говорится — полбеды. Здесь следует говорить о намного более серьезной проблеме — о жизни во лжи, без «инструментов», позволяющих отличить правду от обмана.

Напрашивается вопрос: сталкиваемся ли мы тут с чем-то новым, ранее не испытанным?

Нет. В таком состоянии человечество находится, начиная с первых дней своего существования. То есть мы жили и живем, говоря языком наших книг — в мире лжи (на иврите — олам hа-шекер). В мире, где присутствие Всевышнего скрыто от нас множеством слоев. В мире, где Истина — в статусе нээлам. Иными словами — скрытого от человеческого разума постижения.

Несмотря на то, что понятие «фейк» возникло сравнительно недавно, само по себе явление, когда некто выдает ложь за правду — старо как мир. Обман, дезинформация всегда были частью общения. Миллионы людей шли воевать и были готовы умереть во имя ложных идей. Не важно, говорим мы о крестовых походах, революциях или войнах разных времен.

Всегда есть некие силы, способные влиять на общественное сознание и управлять им, внедряя в него ложные концепции. Использование новейших средств коммуникации и технологий просто значительно облегчило процесс производства «фейков» и их распространение.

На этом фоне революция искусственного интеллекта не выглядит такой уж устрашающей. Ибо она — лишь логическое продолжение того, чтобы было раньше.

Опасение строится в основном на том, что эти технологии будут выведены из-под контроля человека или же будут целенаправленно использованы как средство разрушения. Сама по себе «машина», кстати, не обладает свободной волей. Угроза — в моральных и идеологических предпочтениях специалистов, которые прививают машинам те или иные «навыки поведения».

Мы фактически вернулись к идее, которую высказана в начале этого ответа. Свобода выбора любое изобретение способна превратить в опасное оружие.

Что может помочь в этой ситуации? Есть ли средства или критерии, помогающие отличить истину от лжи?

Нет лекарства от лжи, мы будем жить в олам hа-шекер до конца Шестого тысячелетия.

Возможно, на определенном этапе появится международный мораторий на развитие или использование некоторых технологий, с немалым риском его нарушения.

Можно, наверное, предположить, что если разработаны технологии создания фейка, скорее всего, возникнут и технологии, помогающие в той или иной степени, справится с этой проблемой.

Так или иначе, вопрос доверия и веры в услышанное и увиденное встанет перед нами с новой остротой. Поиск истины превратится в жизненную необходимость, что, в сущности можно назвать положительным явлением.

Самое главное, помнить, что все в руках Всевышнего.

Сами по себе идеи и возможности доступны лишь в случаях, когда есть на то Его Воля. И если Он посылает новое испытание, нужно приложить все усилия к тому, чтобы с честью его выдержать.

Быть может, это испытание ложью и предназначено для того, чтобы довести до нашего сознания подлинную ценность Истины и заставить нас искать ее. И не только в сфере виртуальной реальности.

У нашего народа есть Тора, которая, подобна компасу, указывает верное направление. Истина в этом контексте — то, что соответствует Замыслу и желанию Всевышнего. Ложь — все остальное. Например, любить ближнего и стремиться помочь ему — Истина. Затевать что-либо против Него — ложь.

Несмотря на большие успехи страны Израиля в области высоких технологий, в том числе, и в сфере искусственного интеллекта, евреи — народ Книги. И пока мы связаны с Торой, изучаем ее, следуем ее законам и видим в ней непреложную Истину — мы на правильном пути. И каждый, кто хочет — может обратиться к нам за помощью в проблеме, как отличить Истину от лжи...

Автор текста Михаэль Бергман
30.05.23