Куда не ступит нога нечеловеческая: почему искусственный интеллект не может заменить человека

 

Куда не ступит нога нечеловеческая: почему искусственный интеллект не может заменить человека Главный страх третьего тысячелетия захвативший планету ИИ, которому мы больше не нужны, пока что

Главный страх третьего тысячелетия захвативший планету ИИ, которому мы больше не нужны, пока что остается невротической фантазией. На деле разработка и внедрение алгоритмов в глобальных масштабах требует нашего огромного внимания и ставит перед нами всё новые задачи. Эмпатия, справедливость, этика, творческие решение задач разбираемся подробно, почему ИИ не заменит человека.

Развитие искусственного интеллекта заставляет многих задумываться: «Заберут ли роботы мою работу» Масштабность этих размышлений вряд ли набирала раньше такие обороты: этот вопрос занимает глобальные организации, обсуждается на форумах уровня Давоса, и именно этой теме изменение характера труда из-за технологий посвящен Доклад Всемирного банка о мировом развитии за 2019 год. Эксперты придерживаются взгляда на роботизацию, где люди всё еще главные:

«Роботы могут дополнять работу тех, кто занимается выполнением задач, не связанных с рутинным трудом и требующих развитых аналитических навыков, навыков межличностного общения или достаточно изощренных навыков ручного труда например, навыков работы в команде, выстраивания взаимоотношений с клиентами и партнерами, управления персоналом и ухода за детьми и больными. В ходе такой работы людям приходится взаимодействовать друг с другом, опираясь на подразумеваемые знания».

Это значит, что для современного мира и мира ближайшего будущего человеческие взаимодействия первичны, а роботы могут лишь помогать. В глобальном масштабе технологизация, согласно Докладу, не представляет повсеместной угрозы и не приведет к скорой замене человеческого труда. Что не отменяет необходимости готовить граждан к стремительным изменениям в структуре занятости.

Как подколбашивает рынок труда, мы будем наблюдать еще долго. Цифровая трансформация происходит медленно, неравномерно, наталкивается на огромную кучу барьеров и технологических, и социальных. Автоматизация и роботизация постепенно освобождают от тяжелого труда и создают новые рабочие места, но достижения ИИ разворачиваются на очень разных уровнях и могут вызывать неожиданные социальные эффекты уже сегодня. Так что пока внедрение ИИ в жизнь не только не сталкивает человека на обочину жизни, но и заставляет его развиваться в новых направлениях.

В каких сферах ИИ «конкурирует» с человеком

В конце прошлого года вышло два больших международных отчета про искусственный интеллект это отчет института AI Now из Университета Нью-Йорка и ежегодник AI Index от инициативной группы из Пало-Альто. Оба показывают, как резко и интенсивно развивается сфера: появляется всё больше специалистов и образовательных программ, компании предлагают новые рабочие места, государственные программы поддерживают исследования в разных направлениях ИИ. Из обоих, независимых друг от друга, отчетов следуют два принципиальных вывода:

1.ИИ развивается и интенсивно, и экстенсивно (и внутри своей сферы, и охватывает другие).

2.Разработчики, заказчики и пользователи плохо представляют себе последствия такого распространения технологии.

Что это означает для нас Давайте сначала разберемся, в какие производственные процессы уже встроились алгоритмы ИИ, в этом поможет профессиональный отчет State of AI. Авторы говорят о 13 отдельных сферах, которые можно поделить на три группы.

1. ИИ выполняет принципиально новые функции, которые не мог делать человек или делал иначе.

В медицине разрабатываются решения по транспортировке микрочастиц; в фармацевтике и материаловедении алгоритмы моделируют новые соединения и просчитывают их устойчивость в различных условиях; в фермерстве используются микроклиматические саморегулирующиеся системы и системы обследования состояния животных и растений; в финансовой сфере внедряются алгоритмы предотвращения мошенничества; спутниковые данные используются для анализа страховых случаев; в сфере автономных разработок развивается симуляция окружающей среды и моделирование чрезвычайных ситуаций.

В этих сферах ИИ сопровождает человеческую деятельность и помогает решать проблемы, связанные с масштабами (микро- или макро-), комплексностью и скоростью реализации задач.

2. ИИ по-новому выполняет старые функции, которые всё еще может выполнять человек.

В фармацевтике алгоритмы обрабатывают большое количество данных о химических соединениях, компонентах, реакциях для улучшения существующих лекарств; в здравоохранении анализ визуальных данных уточняет диагностику заболеваний; в фермерстве настраивается контроль теплиц и сбор урожая; в финансовой сфере алгоритмы принимают решения о кредитовании и предлагают финансовый менеджмент; в автоматизации складов роботизируется логистика и управление; в промышленном производствеИИ организует труд; в автономной логистике предпринимаются попытки решить проблему «последней мили» (доставки до точного места или конкретного человека); спутниковые данные помогают планировать сельскохозяйственникам; в государственной безопасности применяются комплексные алгоритмы анализа данных о гражданах.

В основном функции ИИ в этой группе связаны с накоплением и обработкой больших данных для последующего принятия решений человеком.

3. ИИ заменяет работу человека.

В промышленном производстве распространяется автоматизация рутинной работы и документооборота; ручная работа частично роботизируется в строительстве, промышленной уборке, охране; в сфере приватности и анонимности алгоритмы используются в защите персональных данных; в логистике транспорт становится автономным; в кибербезопасности алгоритмы отслеживают угрозы.

В этой группе ИИ действительно берет на себя функции человека, но не заменяет человеческий труд вообще. Мы видим, что разработки не становятся независимыми сущностями, а постепенно и аккуратно способствуют освоению новых областей знания.

Реальная динамика изменения на рынке за последние 35 лет в США показывает, что лишь немного сокращается доля рутинного труда как ручного, так и умственного, и при этом настойчиво набирает обороты нерутинная ручная и интеллектуальная занятость:

Ту же логику можно увидеть на ресурсе-предсказателе, где можно узнать вероятность и причины потенциальной роботизации конкретной специальности.

Первыми будут автоматизированы те работы, где больше всего рутины и повторяющихся задач, меньше неизвестности и неопределенности так называемые скучные работы: ремонтники часов, швеи, телепродавцы, составители налогов и т. д. Этот труд легко стандартизировать и воспроизвести алгоритмически.

А меньше всего подвержены алгоритмизации такие специалисты, как, например, социальные работники, психологи, социологи, поскольку они выполняют ту тонкую аналитическую и эмоциональную работу, которую не делегировать алгоритмам.

Почему алгоритмичный «ум» ИИ не может заменить человека

Обнадеживающе звучит второй пассаж из Доклада Всемирного банка:

«Дизайн, создание произведений искусства, проведение исследований, руководство командной работой, уход за больными и уборка это задачи, которые, как выяснилось, слишком сложны для автоматизации. Роботам пока не удалось добиться больших успехов в воспроизведении этих навыков, чтобы конкурировать с людьми».

Это не значит, что «машинного» искусства или роботизированной уборки еще нет, скорее, речь идет о том, что ИИ куда сложнее конкурировать с человеком в областях, которые связаны с комплексным трудом, непредсказуемостью, разноплановой аналитической работой или простой эмпатией.

Возможности ИИ сразу становятся ограниченными в работе с эмоциями и чувствами, в проявлении понимания, в определении неочевидного смысла и спонтанной изменчивости.

Свежая статья в Nature предлагает одно из объяснений ограничениям, с которыми неизбежно сталкивается ИИ: в основе машинного обучения лежат формализация и математический анализ а у них есть свои неразрешенные проблемы. В некоторых сценариях машинного обучения невозможно доказать, может ли алгоритм решить конкретную задачу, и это упирается в математические задачи (в частности, в континуум-гипотезу). Нельзя доказать или опровергнуть, что алгоритмы, обучающиеся на больших наборах данных, смогут одинаково хорошо работать на разных выборках. Тем более что не все данные хорошо формализуются.

Что алгоритмы уже умеют делать, так это воспроизводить то, чему они обучаются, не вникая в смысл, а размечивая «да» или «нет». Именно поэтому им не присуще чувство юмора, хотя они могут «сочинять» музыку. Секрет такого творчества очень схож с изобретательством алгоритмов, которые обыгрывают в шахматы и го или даже в Dota 2. Но та же AlphaZero не может научиться другим играм, кроме го, потому что правила уже не настолько прозрачны.

Последующее поражение ИИ в Dota 2 показало, что алгоритмы всё-таки не способны пока на командную работу с ее спонтанной коммуникацией и разделением обязанностей.

То же показал и случай роботизированного отеля Henn-na в Японии: спустя 3 года руководство приняло решение «уволить» больше половины роботов из-за жалоб клиентов о том, что они не справляются со своими задачами. Кроме того, они были дорогими в обслуживании в обновлении, что оказалось экономически невыгодным.

Алгоритмы действительно считывают и воспроизводят правила лучше людей, поэтому их соблюдение самая оптимальная стратегия, касается ли это высчитывания ходов или джазовых канонов. Именно поэтому музыка ИИ это вариация на тему правил и формализации. Иными словами, нейронные сети воспроизводят паттерны, которые лучше всего справляются с поставленной им задачей. Но о красоте, изящности и «настоящести» этих паттернов дальше судить нам.

Поэтому вопрос с машинным искусством не в том, считать ли то, что делают алгоритмы, искусством, а будем ли мы получать такое же удовольствие от него, как, скажем, на живых джазовых импровизациях.

Что пугает разработчиков, или Механизмы принятия решений ИИ

Игры с возможностями ИИ вызывают серьезные вопросы. Далеко не во всех областях мы готовы впускать алгоритмы в производственные процессы и уж точно не в управление или принятие жизненно важных решений. В этом смысле искусственный интеллект беспокоит разработчиков не меньше, чем простых людей. В этом признались эксперты авторы отчета Исследовательского института AI Now в Университете Нью-Йорка за 2017 год. Основное беспокойство вызывают черные ящики, которые создают закрытые алгоритмы внутри себя. Проблема с черными ящиками называется проблемой объяснимости ИИ. Когда чат-боты Faceboo столкнулись с барьером не получили одобрения от операторов-людей, то стали обходить его, придумывая новые запросы. Разработчики обнаружили диалог ботов, в котором слова ничего не значили с точки зрения человека, но в нем боты скооперировались с неясной целью. Ботов отключили, но осадочек остался.

Алгоритмы находят неожиданные возможности там, где человек не предусматривает жесткие ограничения: они ведут себя как хакеры и ищут оптимальные решения задач. Это происходит и в игровых вселенных: например, в EVE Online алгоритмы устроили альтернативную добычу ресурсов, не вступая во взаимодействие с другими игроками, поскольку их стратегия оказалась наиболее выигрышной с точки зрения теории игр, а не с позиции командной работы.

Новые случаи независимого поведения алгоритмов усиливают тревогу, особенно из-за стремления разработчиков дать ИИ право на самостоятельное принятие решений. И если в играх, социальных сетях и творчестве ошибки еще могут быть незаметны или безболезненно исправлены, то риски применения ИИ в сферах, связанных с благополучием человека, требуют очень большого внимания и прозрачности алгоритмов. Проблема объяснимости сводится к вопросу о том, как ИИ на самом деле принимает решения.

Этим вопросом активно занимаются разработчики беспилотных автомобилей, экспериментируя с квантификацией этики, доверия и морали. И такие эксперименты еще легитимны, пока потенциальные риски могут быть оправданы стечением обстоятельств например, смерть пешехода по вине самого пешехода легко укладывается у нас в голове. Но риски перестают быть оправданными совсем, когда человек (и не один!) может пострадать только по вине технологии.

Именно поэтому искусственный интеллект не будет в обозримом будущем допущен к управлению самолетами в автономном режиме. Авиация отличный пример сферы, в которой требуется высокая точность в процессе принятия решений, поскольку риски слишком высоки. Борьба ответственностей ярко показана в фильме «Чудо на Гудзоне»: ставший легендарным пилот умудрился посадить самолет с отказавшими двигателям на воду без жертв, и впоследствии его обвиняли в том, что он поступил не по протоколу, так как математически были просчитаны альтернативные решения с посадкой в близлежащих аэропортах. Но в суде никому из экспертов и следователей этого авиапроисшествия не удалось найти все элементы формулы под названием «пилот в экстренной ситуации» для компьютерной симуляции. Посмотрите защитительную речь героя о том, что в реальной ситуации математических расчетов недостаточно: чтобы оценить все риски и возможности и принять оптимальное решение, на помощь приходят опыт, интуиция и вера.

ИИ может справиться со штатными ситуациями, и их подавляющее большинство. Но где ему учиться на чужих ошибках и искать идеальные сценарии и решения в чрезвычайных условиях, которые никогда не повторяются Получается, что основное ограничение на доступ алгоритмов в системы управления получат те сферы, где требуется прозрачность процесса принятия решений и последующее объяснение своих действий.

К этим внутренним проблемам разработки теперь добавляется новое математическое ограничение: мы не можем предсказать заранее, с какими задачами ИИ справится, а с какими нет.

Политические проблемы использования ИИ

Помимо проблем самой разработки, стоит следить за применением ИИ, потому что в конечном счете в возможных перегибах будет виновата не сама технология, а те, кто стоит за ее использованием. В гонке за использование технологии разные участники преследуют разные цели но, к сожалению, мало для кого цель это подготовить ИИ и общество друг к другу. Вместо того чтобы бояться потерять работу, впору задуматься о том, что важно для всего человечества.

Только в прошлом году индустрия серьезно подошла к вопросам социальных эффектов и последствий внедрения ИИ. Отличилась Microsoft в попытке сформулировать вопросы о возможных сценариях будущего ИИ и о важных рекомендациях для его настоящего.

Даже если рано или поздно ИИ внедрится во многие сферы жизни человека, уже сейчас необходимо понимать, что технологии не решат все проблемы человечества и что мы сами должны думать о таких вещах, как этика или право.

Теперь комитеты по этике есть в Microsoft, Google, Faceboo, SAP это своеобразная внутренняя цензура потенциальных рисков ИИ.

Комитеты по этике подчеркивают, что технологии дело рук и ответственность не только разработчиков, но и всех участников глобального взаимодействия, как конечных пользователей, так и институциональных игроков: бизнеса, государства, общества. Если кто-то из этих участников принимает решение использовать ИИ в своих целях, то он должен принять на себя обязательство предусматривать последствия. А если эти последствия не удается предсказать, требуется собирать как можно более междисциплинарные команды экспертов, которые покажут всю сложность тех или иных технических решений.

Звучит неплохо, но сейчас далеко не все участники гонки за лидерство в технологиях готовы оценивать реальные социальные эффекты своей деятельности, особенно если технологии поддерживают текущие политические режимы.

«Мы на самом деле не забегаем настолько далеко вперед, чтобы узнать, будет ли ИИ конфликтовать с людьми. Мы просто пытаемся заработать деньги», сказал Тан Сяоу, профессор Китайского университета в Гонконге, основатель одного из самых нашумевших ИИ-стартапов по технологии распознавания лиц.

Социальный рейтинг, основанный на этой технологии, очень быстро стал инструментом тотального контроля и создал новую социальную структуру и общественный порядок в одной отдельно взятой авторитарной стране.

Куда не ступит нога нечеловеческая: почему искусственный интеллект не может заменить человека Главный страх третьего тысячелетия захвативший планету ИИ, которому мы больше не нужны, пока что

Куда не ступит нога нечеловеческая: почему искусственный интеллект не может заменить человека Главный страх третьего тысячелетия захвативший планету ИИ, которому мы больше не нужны, пока что

Куда не ступит нога нечеловеческая: почему искусственный интеллект не может заменить человека Главный страх третьего тысячелетия захвативший планету ИИ, которому мы больше не нужны, пока что

Куда не ступит нога нечеловеческая: почему искусственный интеллект не может заменить человека Главный страх третьего тысячелетия захвативший планету ИИ, которому мы больше не нужны, пока что

Источник

 

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *