Сильный искусственный интеллект что это
Перейти к содержимому

Сильный искусственный интеллект что это

  • автор:

Сильный искусственный интеллект

Способность технической системы, подобно человеку, мыслить, взаимодействовать, адаптироваться к изменяющимся условиям и решать другие задачи в области обработки информации, ассоциирующиеся с естественным интеллектом человека

из публикации: Системы искусственного интеллекта. Способы обеспечения доверия. Общие положения
Варианты определения в публикациях:

Интеллектуальный алгоритм, способный решать широкий спектр интеллектуальных задач как минимум наравне с человеческим разумом

Сильный искусственный интеллект что это

Начнем с общего определения этой технологии. Звучит оно примерно так: ИИ — это обширный раздел компьютерных наук, цель которого — создать видимость наличия у машины человеческого интеллекта. Таким образом, если компьютер демонстрирует когнитивные способности, присущие людям, то мы называем это ИИ.

Слабый ИИ (Narrow AI)

ИИ узкого назначения, также известный как слабый, — это ИИ в сегодняшнем понимании. Он запрограммирован на выполнение одной задачи — будь то мониторинг погоды, игра в шахматы или анализ данных для написания журналистских репортажей.

Такой ИИ может работать в режиме реального времени, но он извлекает информацию лишь из ограниченного набора данных. В результате эта система способна справляться только с одной конкретной проблемой, решению которой она обучена.

В отличие от ИИ общего назначения, также известного как сильный, ИИ узкого назначения не обладает человеческими чувствами и сознанием, а работает лишь в заранее заданном диапазоне.

Все окружающие нас ИИ-решения — это примеры слабого ИИ, в том числе Google Assistant, Google Translate, Siri и другие инструменты обработки естественного языка. Кто-то может возразить и сказать, что это не так, ведь они способны взаимодействовать с людьми. Однако все же это ИИ узкого назначения, потому что подобные машины слишком далеки от человеческого интеллекта — другими словами, они не могут думать самостоятельно.

Например, Siri не обладает сознанием. Она просто выполняет ряд задач: обрабатывает человеческую речь, вводит полученный вопрос в поисковую систему и выдает ответ.

Заставь искусственный интеллект самообучаться и совершенствоваться – выбирай онлайн-курсы в каталоге курсов по машинному обучению.

Это объясняет, почему на абстрактные вопросы о смысле жизни и личных проблемах Siri или Google Assistant дают неопределенные ответы, которые часто не имеют смысла, или предлагают ссылки на статьи из интернета. С другой стороны, на вопрос о погоде мы всегда получаем точный ответ. Это доказывает, что голосовые помощники на основе ИИ не могут выходить за рамки знакомых задач.

Преимущества слабого ИИ

Хоть этот вид ИИ мы и называем слабым, не стоит воспринимать такое определение буквально. ИИ узкого назначения — это серьезный технологический прорыв.

Такие системы способны обрабатывать данные и выполнять задачи значительно быстрее, чем любой человек, что позволило повысить общую производительность, а также качество жизни. В частности, такие ИИ-решения, как IBM Watson, разработаны для помощи врачам — они делают медобслуживание лучше, быстрее и безопаснее.

Кроме того, слабый ИИ избавил нас от множества рутинных задач: от заказа пиццы (теперь это может сделать Siri) до обработки больших массивов информации. Эта технология значительно улучшила нашу жизнь, поэтому мы не должны ее недооценивать. С появлением передовых технологий наподобие беспилотных автомобилей слабый ИИ также избавит нас от досадных реалий вроде пробок и предоставит больше свободного времени.

Кроме того, ИИ узкого назначения служит строительным материалом для более фундаментальных систем, с которыми мы можем столкнуться в ближайшем будущем.

Сильный ИИ (General AI)

ИИ общего назначения, или сильный ИИ, схож с человеческим интеллектом. Иными словами, он может успешно выполнять любые умственные задачи, которые под силу людям. Именно такие системы мы видим в научно-фантастических фильмах, посвященных взаимодействию человека с машинами, обладающими чувствами и сознанием.

Сейчас компьютеры могут обрабатывать данные быстрее, чем мы. Но они не способны мыслить абстрактно, продумывать стратегию, а также использовать мысли и воспоминания, чтобы принимать обоснованные решения или выдвигать творческие идеи. Благодаря этому типу интеллекта мы превосходим машины. В то же время работу этих когнитивных механизмов сложнее всего понять, а значит, и сложнее всего воспроизвести.

Ожидается, что сильный ИИ сможет рассуждать, справляться с проблемами, выносить суждения в условиях неопределенности, планировать, учиться, интегрировать предыдущие знания в процесс принятия решений, а также предлагать новаторские идеи. Но для достижения всех этих целей исследователи должны придумать, как наделить машины сознанием.

Супер-ИИ (Super AI)

Оксфордский философ Ник Бостром определяет супер-ИИ так: «Это любой интеллект, который значительно превосходит когнитивные способности человека практически во всех областях».

Супер-ИИ превзойдет людей во всех аспектах — от творчества до жизненной мудрости и решения проблем. Машины будут способны демонстрировать интеллект, который мы не видели и у самых одаренных представителей человечества. Это тот тип ИИ, который многих беспокоит, а по мнению Илона Маска, именно он приведет к вымиранию людей как вида.

  • Искусственный интеллект
  • Технологии

Сильный интеллект, что это значит?

Сейчас всё больше говорят об опасности нейронных сетей. И чем сильнее они становятся, тем больше эта опасность осознаётся. Опасность в непредсказуемом поведении. Нельзя доверять решение ответственных задач тому, кто может принимать неадекватные решения, и не может свои решения как-то обосновать, объяснить.

Недостаток нейронных сетей не столько в том, что нельзя отследить процесс принятия решения, сколько в том, что при самообучении они не защищены от противоречивой информации. Они обобщают входную информацию не понимая её смысла.

А что значит понимать смысл?

Информация всегда выражена во фразах какого-то языка. Когда можно утверждать, что система понимает смысл фразы, текста?

Например, фраза: «Этот человек зашёл слишком далеко!» Как мы её понимаем? Слово «этот» означает, что есть контекст, мы говорим о ком-то конкретном. Зашёл пешком или в каком-то другом действии? Эта информация тоже должна быть в предыдущих фразах.

В общем случае, понимание фразы сводится к следующему. Фраза всегда описывает фрагмент модели какого-то объекта или процесса. Конкретного или абстрактного. Если этот фрагмент можно встроить в более полную модель этого объекта или процесса, имеющуюся у системы, тогда её смысл можно понять. Это можно сделать, когда достаточно информации, чтобы определить, о чём идёт речь и есть более полная модель того, о чём идёт речь. Если всё это есть, и фрагмент модели вписывается в более полную модель без противоречий, то новая информация дополняет модель. Если есть противоречия, то система должна их снять. Либо отвергнуть информацию, как ложную, либо заняться поиском дополнительной информации для совершенствования имеющейся модели объекта/процесса.

Нейронные сети этого делать не умеют, у них нет такой функции. Они могут обобщать входную информацию, но для построения адекватной модели объекта, и тем более процесса, этого мало. Особенно, если входная информация выражена во фразах естественного языка.

Конструкция сильного ИИ

У человека модель мира основана на информации от органов чувств и «записана» на некоем специальном «языке» внутреннего представления. Мы называем это «образами». Фразы естественного языка переводятся в образы. Обработка информации, мыслительный процесс, происходит в образах, а результаты обратно переводятся во фразы естественного языка.

Искусственный интеллект, претендующий на звание сильного, должен быть устроен так же. Его основой должна быть универсальная система представления знаний. Чтобы сделать такую систему, надо очень чётко определить понятие «знание». Те определения, которые есть сейчас, абсолютно непригодны по причине расплывчатости и не конструктивности. Конструктивность определения означает, что из него следует конструкция, конкретная схема. В данном случае, схема, структура данных для представления знаний.

Мы имеем дело с объектным миром, состоящим из объектов и процессов их изменения. В общем случае мир состоит из процессов. В основе любого процесса лежит алгоритм, так как все конкретные процессы кем‑то или чем‑то генерируются. В результате обобщения конкретных процессов происходит восстановление алгоритма, их порождающего. В этом и состоит процесс по‑Знания. Таким образом, знание — это алгоритм процесса. Совокупность алгоритмов представляет собой модель какого либо явления, части внешней среды или взаимодействия субъекта с ней.

Это определение знания конструктивно, потому, что понятие алгоритма определено исчерпывающе. Алгоритм, как класс процессов, оперирует классами объектов. Процесс познания или формирования базы знаний состоит в обобщении конкретных, воспринимаемых системой, процессов. Обобщаются не только конкретные процессы, но и абстрактные, т. е. сами алгоритмы. Этим создаётся база знаний, «расслаивающаяся» на разные уровни абстрактности. То есть, для создания системы сильного интеллекта, кроме универсальной системы представления знаний, нужен алгоритм обобщения процессов и алгоритмов, на выходе которого алгоритмы.

Такая база знаний, которая содержит знания разного уровня абстрактности, имеет две интересные способности.

Первая касается анализа новой информации. Если система попала в ситуацию, по которой у неё нет конкретных знаний, сориентироваться ей помогут абстрактные знания, аналогии со знакомыми ситуациями. Люди этим пользуются довольно часто.

Вторая способность связана с решением «творческих» задач. То есть задач, для решения которых у системы нет готового алгоритма. В общем случае, решением задачи является создание алгоритма действий для достижения поставленной цели. Для этого системе нужен алгоритм решения задач. По сути, алгоритм создания алгоритмов. Но, если процесс познания (обобщения), который тоже создаёт алгоритмы, направлен от конкретного к абстрактному, то процесс решения задач направлен от абстрактного к конкретному.

Творческая задача решается в два этапа:1) восхождение с конкретного уровня на тот абстрактный, с которого виден общий алгоритм решения; 2) спуск на конкретный уровень для создания конкретного алгоритма решения, как детализации общего алгоритма. На втором этапе могут возникнуть проблемы, связанные с нехваткой конкретных знаний. Сильный интеллект — это тот, который способен решать такую проблему: искать новые знания.

Знания ищут двумя способами: пассивным и активным.

Пассивный — это просто ждать, когда они появятся. Когда система попадёт в соответствующие ситуации, обобщит их и получит недостающие знания для решения задачи. Либо задавать вопросы тому, у кого такие знания есть.

Активный — это целенаправленно создавать нужные ситуации. Такой метод известен, как гипотеза‑эксперимент. Гипотеза — это непроверенное знание, сформулированное, как предположение. Гипотезу можно сформулировать только на основе более абстрактного знания для какой‑то более конкретной ситуации. Поэтому, активный поиск знаний может вести только сильный интеллект. Эксперимент — это создание нужной ситуации для проверки гипотезы. Создание заданной ситуации уже является решением задачи. Но для решения этой задачи у системы уже должны быть все необходимые знания.

Что такое самосознание?

Сильный интеллект, взаимодействуя с внешней средой, создаёт не столько модель внешней среды, сколько модель взаимодействия с ней. Нельзя создать объективную модель внешней среды, потому, что она строится на основе информации от органов чувств самой системы и взаимном воздействии системы и среды друг на друга. Если изменить параметры системы, модель будет другая.

Так вот, при росте адекватности модели, её детализации и расслоении, неизбежно она будет разделяться на две подсистемы, одна из которых будет моделью самой системы. Самосознание наступает тогда, когда эти две подсистемы разделяются на самом абстрактном уровне. То есть, всё, что происходит с системой, все изменения её состояния, точно разделяются как либо «внутренние», либо «внешние».

Вообще, язык, как средство общения, может появиться только тогда, когда расслоение модели на уровни абстрактности достигло достаточного предела. Ведь все слова являются абстракциями, обозначают либо классы объектов/процессов, либо их характеристики. А самосознание проявляется, как появление местоимения «Я».

Выводы

Итак, система сильного интеллекта должна конструктивно иметь:

  1. Универсальную систему представления знаний.
  2. Алгоритм обобщения процессов и алгоритмов для создания базы знаний.
  3. Алгоритм генерации алгоритмов для использования базы знаний при решении задач.
  4. Языковый модуль, который отвечает за общение, переводя с внутреннего представления во фразы языка и обратно. Он обучаем и не зависит от конкретного языка. С его помощью система сможет, в частности, обосновывать свои решения.
  5. Подсистему активного поиска знаний.

Пункты 4 и 5 используют пункты 2 и 3, но не являются их прямым следствием и не появятся сами по себе по мере развития системы. Здесь имеется в виду система искусственного интеллекта.

Заключение

Конечно, представленное выше очень краткое изложение «конструкции» системы сильного ИИ, является результатом не только теоретической, но и практической работы. Ключевым и самым сложным для разработки является пункт:

1. Универсальная система представления знаний.

Только правильная и достаточно детальная разработка этого пункта даст возможность создать остальные. Мне это удалось сделать. Все остальные пункты также были разработаны, но с меньшей степенью детализации, только для того, чтобы иметь уверенность, что эта схема сильного интеллекта реализуема практически.

Конечно, такую систему в одиночку не сделать, нужна серьёзная команда. Но, в эпоху всеобщего увлечения нейронными сетями никого заинтересовать не удалось. Может быть, сейчас, когда сам Илон Маск выразил опасения, специалисты начнут всерьёз рассматривать альтернативу нейронным сетям в построении ИИ?

  • искусственный интеллект
  • сильный ии

Эксперт: «сильный» искусственный интеллект появится не раньше чем через 15 лет

ТАСС, 26 октября. Разработка «сильного» искусственного интеллекта, обладающего сознанием, потребует еще не менее 15 лет. Такое мнение на форуме «Этика искусственного интеллекта: начало доверия» высказал Кирилл Каем, старший вице-президент по инновациям фонда «Сколково».

«Сильным» ИИ (artificial general intelligence, AGI) эксперты называют искусственный интеллект общего уровня, который способен мыслить и действовать. При этом уже сегодня в различных отраслях используются системы на основе технологий ИИ (narrow AI, NAI, «слабого» ИИ), которые за счет математических алгоритмов, к примеру, помогают повысить эффективность анализа больших объемов данных.

«Следующие лет пятнадцать, в первую очередь, речь будет идти о «слабом» искусственном интеллекте и прикладных решениях или «узком» ИИ. Это означает, что в следующие 10-15 лет мы будем иметь в руках решения, которые еще не обладают сознанием, в отличие от общего или «сильного» ИИ», — сказал Каем.

Говоря о том, какие в связи с этим этические аспекты должны рассматриваться экспертным сообществом в первую очередь, он указал на вопросы «робоэтики» — тех технологических параметров, которые авторы закладывают в свои решения на стадии разработки. При этом, в силу роста рынка технологий ИИ, представитель «Сколково» считает важной разработку новых инструментов оценки решений в этой области.

«Должны быть заложены и регуляторные основы тех [норм] <. >этики, которые будут определять пользу или риски продукта в области «узкого» ИИ в момент его регистрации или сертификации», — отметил он.

О форуме

Международный форум «Этика искусственного интеллекта: начало доверия» проходит 26 октября при поддержке правительства РФ в пресс-центре ТАСС в Москве. В число обсуждаемых тем вошли этические принципы разработки и применения ИИ, государственные меры поддержки в этой сфере, механизмы внедрения технологий в приоритетных отраслях, а также мировые практики регулирования и стандарты международного взаимодействия.

Ключевым событием форума стало подписание Кодекса этики искусственного интеллекта, разработанного с учетом требований Национальной стратегии развития искусственного интеллекта на период до 2030 года. Он должен стать частью федерального проекта «Искусственный интеллект» и Стратегии развития информационного общества на 2017-2030 гг. Авторы кодекса — Альянс в сфере искусственного интеллекта совместно с Аналитическим центром при правительстве РФ и Минэкономразвития.

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *