Ничего из этого я НЕ прочитал в книге Мартина Форда "Архитекторы интеллекта. Вся правда об искусственном интеллекте от его создателей". Но мне кажется, что мистер Форд как-будто подталкивал своих гостей к этому.
На самом деле, мне было интересно понять почему существующие ИИ-решения являются именно такими какие они есть сейчас. Кто и для чего спроектировал их? И конечно, что из УЖЕ задуманного ждет нас через год или 50 лет? Логично, что ответ знаю сами демиурги ИИ.
Это даже не книга. Это 23 интервью с выдающимися учеными и предпринимателями, занимающимися ИИ. Каждый ответил на несколько примерно одинаковых вопросов автора: - Какие крупные открытия возможны в ближайшие годы? - Можно ли создать по-настоящему мыслящую машину или ИИ, сравнимый с человеческим, и как скоро? - Какие риски и угрозы связаны с ИИ и как их избежать? - Вызовет ли ИИ хаос в экономике и на рынке труда? - Смогут ли суперинтеллектуальные машины выйти из-под контроля человека и превратиться в реальную угрозу?
С улыбкой отмечу, что многие ответы экспертов очень похожие и порой повторяются 7-8 раз, но это хорошо. Так легче понять)
С Вами хочу поделить несколькими цитатами, которые затронули лично меня. Они касаются вопросов доверия, этики и будущего:
НИК БОСТРОМ, ПРОФЕССОР, ОСНОВАТЕЛЬ И ДИРЕКТОР FHI
• Дело не в том, что ИИ возненавидит нас за то, что мы поработили его, и не в том, что у него внезапно возникнет искра сознания, которая заставит его взбунтоваться. Просто этот интеллект, скорее всего, будет компетентно преследовать собственные, не совпадающие с нашими цели. И мы окажемся в будущем, сформированном в соответствии с чужими критериями.
• Стремясь к результату, люди пренебрегают правилами безопасности. И побеждает тот, кто тратит на безопасность меньше всего усилий.
СТЮАРТ РАССЕЛ, ДИРЕКТОР CENTER FOR INTELLIGENT SYSTEMS
ПРИ КАЛИФОРНИЙСКОМ УНИВЕРСИТЕТЕ В БЕРКЛИ
• Первая беспилотная машина появилась на дорогах общего пользования 30 лет назад! Предложенный Эрнстом Дикманом прототип мог менять ряд, отслеживать положение других транспортных средств на дороге и даже совершать обгоны. Все уперлось в вопросы безопасности. Одно дело успешная демонстрация в течение короткого времени, а совсем другое — система ИИ, которая сможет работать десятилетиями без значительных сбоев. Только во втором случае транспортное средство квалифицируется как безопасное. Пока ничего подобного не существует.
ДЖЕФФРИ ХИНТОН, РУКОВОДИТЕЛЬ ИНЖЕНЕРНО-ТЕХНИЧЕСКОЙ СЛУЖБЫ КОМПАНИИ GOOGLE
• Рассуждения — это одна из тех вещей, с которыми люди действительно хорошо справляются. Пройдет немало времени, прежде чем большие нейронные сети достигнут таких же результатов. И до этого они успеют превзойти людей во многих других вещах.
• Возможна ли система, которая сможет пройти тест Тьюринга, длящийся пару часов? Вероятность появления чего-то подобного лет через десять достаточно велика. И возможно, мы до этого не доживем, так как человечество будет уничтожено другими вещами - как атомная война или чума…Я считаю, что эти вещи угрожают существованию человечества намного сильнее, чем ИИ. Только представьте, что началась мировая война или недовольный аспирант в лаборатории молекулярной биологии создал чрезвычайно заразный смертельный вирус с длительным инкубационным периодом. Я думаю, что беспокоить должно именно это, а не сверхинтеллектуальные системы.
ЯН ЛЕКУН, ВИЦЕ-ПРЕЗИДЕНТ И ОСНОВАТЕЛЬ ЛАБОРАТОРИИ ИССЛЕДОВАНИЯ ИИ В FACEBOOK (FAIR)
• Начну с того, что нет смысла бояться, что мы создадим интеллект человеческого уровня, а он вырвется из-под нашего контроля, и роботы захотят захватить мир. Желание захватить мир связано не с интеллектом, а с тестостероном.
В американской политике много примеров, явно показывающих, что стремление к власти не связано с интеллектом.
ДЕМИС ХАССАБИС, СОУЧРЕДИТЕЛЬ И ГЕНЕРАЛЬНЫЙ ДИРЕКТОР КОМПАНИИ DEEPMIND
• Мне кажется, что не появись ИИ, мир развивался бы не в лучшую сторону.
ЭНДРЮ ЫН, ГЕНЕРАЛЬНЫЙ ДИРЕКТОР КОМПАНИИ LANDING AI, СОЗДАТЕЛЬ ПРОЕКТА AI FUND
• Современный ИИ сильно ограничен. Кроме того, сам термин описывает очень широкий набор понятий, и я думаю, что при обсуждениях ИИ в большинстве случаев подразумеваются такие инструменты, как метод обратного распространения, обучение с учителем и нейронные сети. Он ограничен так же, как интернет или электричество. От того, что доступ к электричеству превратился в коммунальную услугу, проблемы человечества не исчезли. Не стоит ждать этого и от метода обратного распространения, несмотря на всю его эффективность.
РАНА ЭЛЬ КАЛИУБИ, ГЕНЕРАЛЬНЫЙ ДИРЕКТОР И СОУЧРЕДИТЕЛЬ КОМПАНИИ AFFECTIVA
• Я убеждена, что люди приносят куда больше проблем, чем ИИ. Всерьез бояться захвата власти роботами — значит признать бессилие людей. Нельзя забывать, что именно мы проектируем эти системы, знаем, как они функционируют, и можем их отключить. Поэтому я не разделяю подобных страхов. С ИИ-системами связаны более актуальные проблемы. Например, как избежать закрепления существующих предрассудков?
ГАРИ МАРКУС, ОСНОВАТЕЛЬ И ГЕНЕРАЛЬНЫЙ ДИРЕКТОР СТАРТАПА GEOMETRIC INTELLIGENCE
• Глубокое обучение с подкреплением дает впечатляющие, но крайне нестабильные результаты. Например, в компании DeepMind ИИ обучили игре Breakout от Atari. И на первый взгляд ИИ отлично справился: нашел способ рикошетить от стен так, чтобы сбить максимальное количество кирпичей. Но стоит переместить ракетку вверх на три пиксела, и чудо закончится, ведь система не знает, что такое стена и рикошет.
• В сильном ИИ особых достижений не наблюдается. Например, персональный помощник Siri, появившийся в 2010 г., не сильно отличается от созданной в 1966 г. программы ELIZA, которая пародировала диалог с психотерапевтом, реализуя технику активного слушания. До понимания естественного языка нам по-прежнему далеко. Но я все равно склонен к оптимистичным прогнозам.
• Допускаю, что в итоге мы окажемся в мире, состоящем из виртуальной реальности и пособий.
РОДНИ БРУКС, ПРЕЗИДЕНТ КОМПАНИИ RETHINK ROBOTICS
• Успехи глубокого обучения не могут продолжаться вечно. Все имеет предел. И Рэю Курцвейлу не придется в ближайшее время загружать свое сознание в компьютер. Биологические системы работают по другим принципам. Они опираются на сотни алгоритмов. И чтобы добиться прогресса в этой области, нужно создать эти сотни алгоритмов. Поэтому при каждой встрече с Курцвейлом я напоминаю ему, что он рано или поздно умрет.
• Я считаю сильный ИИ возможным. И по моим оценкам, это будет 2200 г., но я могу ошибаться.