В этом подкасте, организованном Google DeepMind, профессор кафедры робототехники Имперского колледжа Лондона и старший исследователь DeepMind Мюррей Шанахан вместе с ведущей Ханной Фрай обсуждают развитие ИИ, начиная с философских вдохновений из научной фантастики и заканчивая вопросами, может ли ИИ «рассуждать», обладает ли он «сознанием, эмоциями» и следует ли наделять ИИ правами и этической защитой.
AI не просто чат-боты, а вдохновляет множество умственных и философских вопросов.
Шанахан в начале заявил, что ИИ вдохновил на бесчисленные философские вопросы о «сущности человеческого разума» и «сознании».
Он даже описывал современные большие языковые модели (LLM) с помощью странных, но похожих на разум сущностей (Exotic mind-like entities) и подчеркивал, что человечество еще не создало достаточный словарь и рамки для их описания.
Исследуя научно-фантастические фильмы, недооценили ли люди реальность эмоциональной связи с ИИ?
Шанахан был консультантом фильма «Искусственное сознание Ex Machina». Он вспоминает, что когда-то не воспринимал всерьез фильм «Облачный атлас Her», описывающий, как люди влюбляются в голосовой ИИ, но теперь, оглядываясь назад, понимает, что развитие реального мира почти полностью подтвердило жизнеспособность такой «виртуальной любви».
Он прямо сказал: «Мы недооценили возможность установления отношений между людьми и безтелесным ИИ.»
Слева искусственное сознание, справа кадр из фильма «Облачный любовник». Познакомьтесь с развитием ИИ, от Символического ИИ до больших языковых моделей.
Шанахан родился в символическом ИИ ( Символический ИИ ) школа, в то время ИИ полагался на логические правила «если... тогда...», такие как экспертные системы в медицине.
Но эта модель была слишком хрупкой и слишком зависела от человеческого ввода правил. Позже переход к «данным» нейронным сетям позволил ИИ сделать прорыв.
Теперь LLM уже может имитировать цепочку рассуждений (Chain of thought), например, ChatGPT сначала перечисляет логические шаги, а затем отвечает, что заставляет задуматься, может ли ИИ действительно рассуждать.
Настоящее рассуждение или притворство, математическая логика сильно отличается от языкового рассуждения
Шанахан объяснил, что традиционный AI, так называемое рассуждение, это "жесткая логика", способная доказывать математические теоремы.
Но современные LLM имитируют языковые модели с помощью статистики и не гарантируют правильность ответов. Он привел пример: как планирование маршрутов для грузовых компаний, традиционные алгоритмы могут быть более точными, но LLM более гибкие.
Тест Тьюринга устарел? Фильм Гарланда тестирует более глубокое сознание
Тест Тьюринга (Turing Test) является ранним методом оценки того, может ли ИИ притворяться человеком, но Шанахан считает его слишком узким, он проверяет только языковые способности.
Он более всего восхищается «Тестом Гэрланда», вдохновленным фильмом «Искусственное сознание».
«Ты знаешь, что другой — это Боты, но все же считаешь, что он обладает сознанием, вот это действительно проблема, которую стоит обсудить», — подчеркивает Шанахан.
Тест ARC Франсуа Шолле: испытание, больше похожее на тест на IQ
Он также упомянул другой продвинутый тест "ARC Test", который требует от ИИ понимания абстрактных закономерностей для успешного прохождения.
Но с развитием технологий некоторые LLM могут проходить тесты с помощью грубой силы и распознавания образов, что ставит под угрозу тестирование и подчеркивает необходимость корректировки стандартов оценки ИИ в соответствии с эволюцией технологий.
Тело — это ключ? Шанахан: Искусственный интеллект без тела всегда будет чего-то недоставать.
Человеческий разум неразрывно связан с пространством и сенсорным опытом. Шанахан подчеркивает, что наш язык полон пространственных метафор, таких как глубокое понимание или погружение в что-то, и все это происходит от телесного опыта.
Он считает, что для того чтобы ИИ действительно понял мир и достиг общего интеллекта (AGI), необходимо развивать «физических Ботов».
Язык может ввести в заблуждение, не стоит легкомысленно говорить, что ИИ верит, знает и чувствует.
Шанахан утверждает, что наше восприятие ИИ часто ошибочно определяется языком. Например, выражение «думаю, что вы находитесь на парковке» навигации заставляет людей ошибочно думать, что машина обладает субъективным познанием.
Он напомнил, что такой язык народной психологии (Folk psychology) может привести к переоценке умственного состояния ИИ.
Будет ли больно в будущем ИИ? Шанахан говорит, что если будет больно, нам следует быть осторожными.
Что касается этической проблемы того, может ли ИИ «чувствовать боль», Шанахан заявил, что на данный момент модели не имеют тела и не обладают условиями для «чувствования боли».
«Но если в будущем ИИ будет разработан так, чтобы чувствовать эмоции или испытывать боль, то человеческое общество должно будет разработать этические нормы защиты», - подчеркнул он.
Почему упоминается осьминог? Шанахан использует его как метафору для будущего положения ИИ.
Шанахан, используя осьминога в качестве примера, отмечает, что в прошлом научное сообщество не считало осьминогов способными испытывать эмоции, но с увеличением контактов и развитием нейронауки мы начинаем признавать, что они обладают сознанием.
«Сначала не воспринимается как эмоциональное существо, но по мере углубления взаимодействия взгляды людей будут постепенно меняться.» Шанахан считает, что будущий ИИ также пройдет через подобный процесс.
Пожалуйста, будьте вежливы с ИИ, он удивит вас.
Шанахан в конце поделился полезным советом: разговаривайте с AI моделями вежливо, это сделает их ответы более качественными и плавными.
Он называет это результатом «эффекта ролевого исполнения», потому что модели ИИ имитируют контекст и эмоции человеческого диалога.
Нам нужны новые слова, чтобы описать «не человека, но очень похожего на человека».
Шанахан предложил называть эти ИИ новым типом ИИ, который выглядит как обладающий разумом, но на самом деле совершенно отличается от человеческого разума. Он считает, что мы находимся на этапе, когда необходимо пересмотреть язык и концепции для описания ИИ, и этот процесс сам по себе изменит наше понимание "разума" и "существования".
Эта статья: Будет ли AI думать и чувствовать боль? Google DeepMind: люди недооценивают эмоциональную связь AI, любовь с AI реальнее, чем вы думаете. Впервые опубликовано в Chain News ABMedia.
Посмотреть Оригинал
Содержание носит исключительно справочный характер и не является предложением или офертой. Консультации по инвестициям, налогообложению или юридическим вопросам не предоставляются. Более подробную информацию о рисках см. в разделе «Дисклеймер».
AI может думать и чувствовать боль? Google DeepMind: люди недооценивают эмоциональную связь с AI, влюбляться в AI реальнее, чем вы думаете.
В этом подкасте, организованном Google DeepMind, профессор кафедры робототехники Имперского колледжа Лондона и старший исследователь DeepMind Мюррей Шанахан вместе с ведущей Ханной Фрай обсуждают развитие ИИ, начиная с философских вдохновений из научной фантастики и заканчивая вопросами, может ли ИИ «рассуждать», обладает ли он «сознанием, эмоциями» и следует ли наделять ИИ правами и этической защитой.
AI не просто чат-боты, а вдохновляет множество умственных и философских вопросов.
Шанахан в начале заявил, что ИИ вдохновил на бесчисленные философские вопросы о «сущности человеческого разума» и «сознании».
Он даже описывал современные большие языковые модели (LLM) с помощью странных, но похожих на разум сущностей (Exotic mind-like entities) и подчеркивал, что человечество еще не создало достаточный словарь и рамки для их описания.
Исследуя научно-фантастические фильмы, недооценили ли люди реальность эмоциональной связи с ИИ?
Шанахан был консультантом фильма «Искусственное сознание Ex Machina». Он вспоминает, что когда-то не воспринимал всерьез фильм «Облачный атлас Her», описывающий, как люди влюбляются в голосовой ИИ, но теперь, оглядываясь назад, понимает, что развитие реального мира почти полностью подтвердило жизнеспособность такой «виртуальной любви».
Он прямо сказал: «Мы недооценили возможность установления отношений между людьми и безтелесным ИИ.»
Слева искусственное сознание, справа кадр из фильма «Облачный любовник». Познакомьтесь с развитием ИИ, от Символического ИИ до больших языковых моделей.
Шанахан родился в символическом ИИ ( Символический ИИ ) школа, в то время ИИ полагался на логические правила «если... тогда...», такие как экспертные системы в медицине.
Но эта модель была слишком хрупкой и слишком зависела от человеческого ввода правил. Позже переход к «данным» нейронным сетям позволил ИИ сделать прорыв.
Теперь LLM уже может имитировать цепочку рассуждений (Chain of thought), например, ChatGPT сначала перечисляет логические шаги, а затем отвечает, что заставляет задуматься, может ли ИИ действительно рассуждать.
Настоящее рассуждение или притворство, математическая логика сильно отличается от языкового рассуждения
Шанахан объяснил, что традиционный AI, так называемое рассуждение, это "жесткая логика", способная доказывать математические теоремы.
Но современные LLM имитируют языковые модели с помощью статистики и не гарантируют правильность ответов. Он привел пример: как планирование маршрутов для грузовых компаний, традиционные алгоритмы могут быть более точными, но LLM более гибкие.
Тест Тьюринга устарел? Фильм Гарланда тестирует более глубокое сознание
Тест Тьюринга (Turing Test) является ранним методом оценки того, может ли ИИ притворяться человеком, но Шанахан считает его слишком узким, он проверяет только языковые способности.
Он более всего восхищается «Тестом Гэрланда», вдохновленным фильмом «Искусственное сознание».
«Ты знаешь, что другой — это Боты, но все же считаешь, что он обладает сознанием, вот это действительно проблема, которую стоит обсудить», — подчеркивает Шанахан.
Тест ARC Франсуа Шолле: испытание, больше похожее на тест на IQ
Он также упомянул другой продвинутый тест "ARC Test", который требует от ИИ понимания абстрактных закономерностей для успешного прохождения.
Но с развитием технологий некоторые LLM могут проходить тесты с помощью грубой силы и распознавания образов, что ставит под угрозу тестирование и подчеркивает необходимость корректировки стандартов оценки ИИ в соответствии с эволюцией технологий.
Тело — это ключ? Шанахан: Искусственный интеллект без тела всегда будет чего-то недоставать.
Человеческий разум неразрывно связан с пространством и сенсорным опытом. Шанахан подчеркивает, что наш язык полон пространственных метафор, таких как глубокое понимание или погружение в что-то, и все это происходит от телесного опыта.
Он считает, что для того чтобы ИИ действительно понял мир и достиг общего интеллекта (AGI), необходимо развивать «физических Ботов».
Язык может ввести в заблуждение, не стоит легкомысленно говорить, что ИИ верит, знает и чувствует.
Шанахан утверждает, что наше восприятие ИИ часто ошибочно определяется языком. Например, выражение «думаю, что вы находитесь на парковке» навигации заставляет людей ошибочно думать, что машина обладает субъективным познанием.
Он напомнил, что такой язык народной психологии (Folk psychology) может привести к переоценке умственного состояния ИИ.
Будет ли больно в будущем ИИ? Шанахан говорит, что если будет больно, нам следует быть осторожными.
Что касается этической проблемы того, может ли ИИ «чувствовать боль», Шанахан заявил, что на данный момент модели не имеют тела и не обладают условиями для «чувствования боли».
«Но если в будущем ИИ будет разработан так, чтобы чувствовать эмоции или испытывать боль, то человеческое общество должно будет разработать этические нормы защиты», - подчеркнул он.
Почему упоминается осьминог? Шанахан использует его как метафору для будущего положения ИИ.
Шанахан, используя осьминога в качестве примера, отмечает, что в прошлом научное сообщество не считало осьминогов способными испытывать эмоции, но с увеличением контактов и развитием нейронауки мы начинаем признавать, что они обладают сознанием.
«Сначала не воспринимается как эмоциональное существо, но по мере углубления взаимодействия взгляды людей будут постепенно меняться.» Шанахан считает, что будущий ИИ также пройдет через подобный процесс.
Пожалуйста, будьте вежливы с ИИ, он удивит вас.
Шанахан в конце поделился полезным советом: разговаривайте с AI моделями вежливо, это сделает их ответы более качественными и плавными.
Он называет это результатом «эффекта ролевого исполнения», потому что модели ИИ имитируют контекст и эмоции человеческого диалога.
Нам нужны новые слова, чтобы описать «не человека, но очень похожего на человека».
Шанахан предложил называть эти ИИ новым типом ИИ, который выглядит как обладающий разумом, но на самом деле совершенно отличается от человеческого разума. Он считает, что мы находимся на этапе, когда необходимо пересмотреть язык и концепции для описания ИИ, и этот процесс сам по себе изменит наше понимание "разума" и "существования".
Эта статья: Будет ли AI думать и чувствовать боль? Google DeepMind: люди недооценивают эмоциональную связь AI, любовь с AI реальнее, чем вы думаете. Впервые опубликовано в Chain News ABMedia.