Что не может искусственный интеллект
Перейти к содержимому

Что не может искусственный интеллект

  • автор:

«Искусственный интеллект не сможет сравниться с естественным в изобретении нового»

Борис Кобринский, доктор медицинских наук, заведующий лабораторией Института современных информационных технологий в медицине ФИЦ ИУ РАН, профессор Российского национального исследовательского медицинского университета им. Н. И. Пирогова.

Выйти из полноэкранного режима

Развернуть на весь экран

Фото: Из личного архива

— В чем различие интеллекта искусственного и человеческого? Справедливо ли вообще называть ИИ интеллектом?

— Естественный интеллект характеризуется многочисленными функциями. Часть из них реализуется в системах ИИ, но главным отличием естественного интеллекта от искусственного является способность синтезировать новые знания, выявлять неизвестные закономерности. Искусственный интеллект — это устоявший термин, однако связанный с не совсем точным переводом с английского. Artificial Intelligence означает «умение рассуждать разумно». Создаваемые на этой основе системы более корректно называть системами с элементами искусственного интеллекта.

— Можно ли говорить, что искусственный интеллект — не более чем орудие человеческого?

— Вряд ли стоить говорить в такой формулировке. Интеллектуальные системы являются консультативными или ассистирующими в принятии решений человеком.

— Было бы важно дать читателю популярное описание математического аппарата, на котором работает ИИ. И что он собой представляет с точки зрения чисто технической: просто мощные суперкомпьютеры? Или нужны какие-то специальные средства и устройства?

— Большинство систем ИИ с самого начала опирались не на математический аппарат, а на логику с использованием средств для диалога с пользователем на естественном языке (логико-лингвистические системы), чего не умели предшествующие вычислительные системы. В настоящее время гибридные интеллектуальные системы включают наряду с логикой также и различные математические методы анализа. Но обязательным для интеллектуальных систем является база знаний, содержащая формализованные знания для конкретной области, для чего используются различные языки представления знаний. Для работы этих систем используются обычные компьютеры. Суперкомпьютеры лишь позволяют ускорить обработку данных, что важно для динамических систем реального времени — например, в управлении двигателями космического корабля и существенно, например, для прогнозов погоды. Исключением являются нейросети, в которых осуществляется математическая обработка введенной информации, однако отсутствует аргументация и логика решений, отсутствуют база знаний предметной области и объяснение выдвигаемых гипотез (решений). Но нейросетевой подход — это технология, имитирующая до некоторой степени работу мозга, истинное представление о которой пока остается открытым.

— Мы не понимаем (по большому счету), как работает мозг человека. А полностью ли сейчас понятно, как работает ИИ? Или уже появились такие как бы черные ящики, где происходит нечто неопределенное?

— Полноценные интеллектуальные системы, как уже отмечено выше, характеризуются как раз тем, что пользователь получает объяснение выдвигаемых системой гипотез как в процессе их рассмотрения, так и по завершении работы (окончательная гипотеза). Черными ящиками являются нейросети, не выдающие объяснений.

— Есть шутка, что ИИ на известную школьную риторику «а если все прыгнут с пятого этажа, ты тоже прыгнешь?» ответит: «да». Насколько это шутка? Каковы вообще когнитивные возможности искусственного интеллекта, будут ли они когда-нибудь сопоставимы с человеческими?

— Роботов обучают по-разному, но имеется подход, основанный на обучении на примерах. Если его использовать, то теоретически можно было бы добиться, чтобы робот не в шутку прыгал с любого этажа. Но он разобьется и больше не прыгнет. В то же время когнитивные способности систем на основе ИИ растут. Но взвешенная оценка говорит о том, что искусственный интеллект не сможет сравниться с естественным, по крайней мере, в изобретении нового. Мы не знаем, как человек изобрел колесо, аналогов которого в природе нет. Как обучить подобному ИИ. Новое знание возникает в мозге далеко не каждого человека.

— Теперь более практический вопрос: в каких сферах ИИ надежно заменит человеческий? Где у него будет преимущество? Где он никогда не сравнится с человеком? Например, есть ли шанс, что он справится с одной из открытых проблем математики — скажем, докажет алгебраическую независимость чисел ϖ и е?

— ИИ способен быстро перебирать различные варианты, он может заменить человеческий или обеспечить помощь человеку во многих областях с известным или понятным подходом к принятию решений: в анализе данных с учетом многообразных связей, в выборе оптимальных решений, в мониторинге ситуаций и управлении; роботы могут выполнять различные работы (в трудных условиях, в доме, на производстве, в здравоохранении и др.). Интеллектуальные системы поддержки принятия решений будут помощниками людей. Роботы заменят их во многих работах, где можно построить алгоритмы действий человека. Возможно, что и в математике, при доказывании теорем, ИИ сможет в перспективе решать сложные задачи. Но вновь должен отметить, что ему будет недоступно открывать принципиально новые направления в науке.

— Возможны ли сообщества искусственных интеллектов? Взаимопомощь и осознание общих интересов?

— Да, сообщества представителей ИИ и их взаимопомощь возможны. Это развитие сегодняшних многоагентных систем — виртуальных сообществ интеллектуальных агентов, каждый из которых взаимодействует с другим, и имеются агенты более высокого уровня, координаторы и наблюдатели, обеспечивающие изменение программы взаимодействия интеллектуальных агентов.

— Появятся ли у искусственного интеллекта творческие способности? Наитие?

— Если под творчеством понимать развитие известного, то да, если создание совсем неизвестного ранее, то нет. Наитие следует отнести к последнему. А вот ассоциативные связи уже имеют место в системах ИИ.

— В частности, врачебную интуицию, о которой у вас есть работы, может заменить ИИ?

— Интеллектуальные системы, основанные на экспертных знаниях высококвалифицированных врачей, обладающих интуицией и образным мышлением, могут включать интуитивные представления в том случае, когда их удается извлечь для формирования базы знаний. Мой опыт показывает, что этого можно достигнуть при групповом извлечении знаний за счет вскрытия врачебной интуиции одного эксперта путем вопросов к другим экспертам при умелом управлении дискуссией.

— Конкуренция искусственных интеллектов — страновая или на уровне компаний — насколько она жесткая? Каково место России в гонке ИИ?

— В явном виде конкуренции между странами нет. Может быть, можно говорить об ученых, которые следят за работами друг друга. На уровне компаний это связано с получением финансовых средств на разработку и/или на получение прибыли по законченным работам. В России период 70-х — начала 90-х годов прошлого века сопровождался созданием большого числа систем и интересными теоретическими разработками. Последующее недофинансирование работ в этой области привело к спаду. Хотя работы не остановились. Рассматривая в качестве примера медицину, приходится отметить, что, несмотря на неоднократные заявления о необходимости таких систем, их финансирование практически отсутствует, за исключением работ по грантам в системе РАН. Положительными примерами в этой области могут служить разработки Федерального исследовательского центра «Информатика и управление» РАН (интеллектуальная система в области здоровьесбережения, ориентированная на управление рисками при инфаркте миокарда, инсульте и депрессии, и интеллектуальные системы автоматизированной поддержки медицинских исследований, реализованные на основе ДСМ-метода автоматического порождения гипотез) и Института автоматики и процессов управления ДВО РАН (диагностика болезней пищеварения и другие, реализованные на основе онтологий).

— Опишите, пожалуйста, какие угрозы несет с собой развитие ИИ.

— Мне представляется неправильным говорить об угрозах искусственного интеллекта. Опасность может нести применение искусственного интеллекта в устройствах, работающих рядом с людьми или заменяющих персонал, например в больницах. Недоучет факторов, которые могут приводить к травмам окружающих, следует рассматривать как основную угрозу в настоящее время и в будущем. Это касается и автопилотов, и систем контроля различных производственных процессов, обеспечения функционирования так называемых умных больниц.

  • Журнал «Коммерсантъ Наука» №68 от 23.12.2019, стр. 37

Какие профессии не заменит искусственный интеллект

Что такое искусственный интеллект и чего он не умеет

Прежде всего важно определить, о каком искусственном интеллекте идёт речь.

У ИИ немало определений, и сам по себе он плод усилий разных наук — прежде всего математики и кибернетики. Но самое распространённое определение такое: «свойство искусственных интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека».

При этом уже существует генеративный ИИ — тип искусственного интеллекта, который использует модели машинного обучения для создания внешне оригинальной продукции. По этому принципу работают и ставший мировой поп-звездой чат-бот ChatGPT, способный генерировать тексты на основе запросов пользователя, и российские Kandinsky и YaGPT.

Тем не менее в самом определении ИИ содержатся важные ограничения. Искусственный интеллект может имитировать поведение человека, решать уже решённые человеком задачи и обрабатывать уже полученную человечеством информацию. Но он не может выдумывать что-то сам, как делают представители творческих профессий. Не умеет инициировать или даже просто вступать в живые личные отношения с людьми. Не обладает прикладными ручными навыками и мобильностью, критически важными для некоторых профессий.

Исходя из этих фундаментальных изъянов искусственного интеллекта и можно определить пять главных типов профессий, которые пока неподвластны умным машинам.

1. Врачи и медсёстры

Врачи (в большей степени терапевты и узкопрофильные специалисты, в меньшей хирурги) и особенно медсёстры пока явно в безопасности по части конкуренции со стороны искусственного интеллекта.

В чём проблема для ИИ:

не умеет понимать и выслушивать людей, ухаживать за ними, в том числе в моральном смысле (то есть утешать), определять причины боли и ставить диагноз. Хотя очевидно способен понять и запомнить результаты анализов.

Войдите и читайте материалы в полном объёме!

Этот материал относится к специальной рубрике, доступной только авторизованным пользователям. Это бесплатно, а после входа вам будут доступны все курсы СберСовы, специальные рубрики, и вы сможете оценивать и сохранять себе полезные материалы.

10 профессий, которые никогда не сможет заменить искусственный интеллект

С появлением в нашей жизни искусственного интеллекта все чаще заходят разговоры о том, из каких профессий люди будут вынуждены уйти. Но мало кто говорит, какие профессии не по зубам ИИ. Свой список составил Андрей Шапенко (Школа управления «Сколково»)

Исследование Goldman Sachs показало, что развитие генеративного искусственного интеллекта, например такого, как ChatGPT, может привести к заметному сбою на рынке труда и затронуть около 300 млн рабочих мест по всему миру. По мнению исследователей, примерно две трети профессий могут подвергнуться хотя бы некоторой доле автоматизации. А четверть специальностей и вовсе могут быть заменены ИИ.

Это уже не первый подобный прогноз. Еще задолго до появления ИИ пресса пестрела заголовками в стиле «до 2025 года исчезнет до четверти профессий». Однако, воз и ныне там, и существенного увеличения производительности в статистике мы почему-то не видим. И если раньше говорили про замещение человека ИИ и исчезновении профессий, то сейчас в моде «гонка продуктивности», то есть все более широкое использование ИИ как инструмента в своей работе, причем повсеместно.

Тем не менее мы спросили у самого ChatGPT, в каких профессиях он не сможет заменить человека. По его (или ее?) мнению, это те специальности, где «человеческие навыки, такие как эмоциональный интеллект, креативность, эмпатия, интуиция и способность принимать решения на основе контекста, являются ключевыми и не могут быть полностью заменены искусственным интеллектом». Среди таких профессий бот перечислил врачей, учителей, художников, психологов и юристов.

Я, будучи человеком, который наблюдает за хайпом вокруг ИИ уже более десяти лет, попробовал составить собственный список профессий, где человек будет незаменим до последнего.

Очевидно, что возможности генеративного интеллекта будут активно использоваться большинством (умных) специалистов в любых областях, где требуется обработка и синтез информации, а вот в областях, которые требуют эмпатии, человечности и нестандартных решений, пока еще для человека не все так плохо. Как и там, где думать не надо.

Что может или не может (пока) сделать искусственный интеллект для вашей компании?

Сегодня продукты искусственного интеллекта мы можем встретить повсюду. Более того, в будущем его планируют применять почти во всех товарах и услугах, которые мы будем покупать или использовать. В то же время возрастают беспокойства по поводу воздействия автоматизации в союзе с искусственным интеллектом на рабочую обстановку, занятность населения и общество в целом.

Все проблемы и недостатки искусственного интеллекта создают ощущение «отдаляющейся цели», ввиду того, что, безусловно, трудно достичь верхней планки, которая постоянно поднимается. В продолжение этого, когда компании сдаются продолжать вести гонку, образуется зияющий разрыв между лидерами и отстающими, что можно чётко проследить на примере отдельных секторов экономики.

Среди основных ограничений, связанных с использованием искусственного интеллекта, выделяются необходимость маркировки (тегирования) данных, для того чтобы обучить систему выстраивать соответственные команды и оперирование массивными наборами данных, которые доходят до нескольких тысяч записей данных, чтобы относительно хорошо производить классификацию задач и до нескольких миллионов записей, когда необходимо выполнять задания на том уровне, на котором это делает человек. Процессы и методики искусственного интеллекта также достаточно сложны для объяснения и понимания, обобщают все накопленные знания, что является препятствием к адаптации непосредственно к конкретной ситуации. И, наконец, еще один недостаток — это уклон на ориентацию на алгоритмы и выстроенные цепочки данных, чем на отклонения от них.

Вместе с тем, решением обозначенных проблем могут выступать методы использования сложных массивов данных, нестандартного мышления, приспособления и постоянное обновление знаний и навыков в сфере искусственного интеллекта. Вы должны использовать или пробовать использовать самые инновационные идеи и тенденции, чтобы оставаться конкурентоспособным и быть всегда впереди ваших оппонентов на пути к «отдаляющейся цели».

Если вы хотите стать лидером в этом направлении, понимать основные важные проблемы, замедляющие развитие искусственного интеллекта и готовы использовать возможные рычаги и инструменты, чтобы преодолеть эти ограничения, — статья для Вас.

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *