Размышления — это основное оружие познания мира человеком. Что изменится, если думать начнут машины?


Один из ведущих интеллектуалов современности, бывший госсекретарь США Генри Киссинджер призывает рассмотреть не лишь практические и правовые аспекты существования искусственного интеллекта, но и философские.


В статье для газеты Wall Street Journal, написанную совместно с бывшим гендиректором Google Эриком Шмидтом и деканом Колледжа вычислительных технологий при MIT Дэниэлом Хаттенлохером, он задается проблемами, как ИИ воздействует на культуру, человеческую природу и историю. Корреспондент.net приводит перевод статьи.


 


Проблема быть человеком в эпоху ненастоящего интеллекта


Управление по вопросам научно-технической политики при президенте США призывает к разработке «билля о правах», который позволил бы защитить янки в условиях «мира, основанного на технологиях искусственного интеллекта.


Волнения касательно проникновения ИИ в жизнь людей вполне обоснованы и размашисто известны: многие боятся, что ИИ будет нарушать границы частной жизни и скомпрометирует прозрачность процессов, а также что тенденциозные вводные данные будут выливаться в предвзятые конечные результаты, в том числе в таких важных для личного и общественного процветания сферах, как медицина, охрана правопорядка, зачисление на работу и выдача кредитов.


Однако развитие ИИ повлечет за собой еще одну фундаментальную перемену: он бросит вызов главенству человечьего мышления.


На протяжении всей истории люди стремились понять окружающий мир и свою роль в нем. Начиная с эпохи Просвещения мы находили мышление — способность исследовать, понимать и объяснять — нашим основным средством познания мира. Именно через познание вселенной люди вносили свой вклад в его развитие.


Последние 300 лет, то есть в эпоху, которую историки называют «столетием разума», мы вели себя соответствующим образом: мы изучали, экспериментировали, изобретали и строили.


Теперь же ИИ — продукт человеческой изобретательности — исподволь подтачивает главенство человеческого мышления. Он исследует и начинает разбираться в самых разных аспектах существования мира гораздо скорее нас. Он делает это иначе, чем мы, и в некоторых случаях такими способами, которые не доступны нашему пониманию.


В 2017 году компания Google DeepMind создала программу под наименованием AlphaZero, которая научилась выигрывать в шахматы, освоив эту игру без участия человека и выработав не совсем человеческую стратегию.


Когда гроссмейстер Гарри Каспаров увидал, как она играет, он отметил, что AlphaZero потрясла концепцию шахмат «до самого основания». Программа не играла быстрее или эффективнее, но она как будто целиком переосмыслила шахматы.


В 2020 году появился новый антибиотик под названием халицин. Его открыли ученые Массачусетского технологического института (MIT), какие поручили ИИ провести расчеты, выходящие за рамки возможностей человеческого мозга, смоделировать миллионы вариантов и изучить ранее не исследованные и прежде никогда не объяснявшиеся методы уничтожения бактерий.


Сделав это открытие, ученые отметили, что без поддержки ИИ на открытие халицина при помощи традиционных экспериментальных методов пришлось бы потратить «запредельно много денег» — другими словами, его открытие было бы невозможным.


Языковая программная модель GPT-3, какой управляет компания OpenAI и которая обучается путем обработки текстов из интернета, уже способна создавать оригинальный текст. По сути, это литературное создание, отвечающее предложенному Аланом Тьюрингом стандарту «разумного» поведения, которое невозможно отличить от поведения человека.


Технологии ИИ чрезмерно многообещающи: переводы с самых разных языков, диагностика заболеваний, борьба с изменением климата — или как минимум более совершенное моделирование процесса изменения климата.


Однако, как показали успехи программы AlphaZero в шахматах, изобретение халицина и сочинения GPT-3, использование ИИ для достижения заданной мишени может повлечь за собой непредвиденные последствия, а именно открытие ранее неизвестных, но потенциально существенных аспектов реальности.


Это устанавливает людей перед необходимостью определить — или, вероятно, переосмыслить — нашу роль в мире. На протяжении 300 лет, то есть итого «века разума», люди руководствовались принципом «я мыслю — значит я существую». Но если ИИ тоже «мыслит», то кто тогда мы?


Если ИИ напишет наилучший сценарий года, нужно ли давать ему Оскар? Если ИИ сможет смоделировать или провести самые важные дипломатические переговоры года, необходимо ли присудить ему Нобелевскую премию мира? Или же ее нужно будет присудить людям, которые создали алгоритм данного ненастоящего интелелекта? Могут ли машины иметь «творческий» потенциал? Нужно ли создавать новые слова для описания их процессов?


Если дитя, пользующийся поддержкой ИИ-помощника, начнет считать его «другом», что станет с отношениями этого ребенка со сверстниками? И что будет с его социальным и эмоциональным развитием?


Если ИИ способен беспокоиться о старушке в доме престарелых — напоминать ей о приеме лекарств, сообщать медперсоналу, если она упала, и составлять ей компанию иными способами, — смогут ли члены семьи навещать ее реже? Да и вообще нужно ли будет навещать ее? Если она большую доля времени будет общаться с машиной, а не с людьми, каким будет ее эмоциональное состояние на закате жизни?


Если в пыл войны в условиях неясности боевой обстановки ИИ рекомендует принять меры, которые могут повлечь за собой ущерб и даже жертвы среди миролюбивого населения, должен ли командир прислушаться к нему?


Эти вопросы возникают все чаще теперь, когда глобальные платформы, такие как Google, Twitter и Facebook используют ИИ, чтобы накапливать и разбирать все больше информации о своих пользователях, да и не только о них.


Затем ИИ принимает решения касательно того, что важно и — все чаще — что истинно. Подлинно, главным обвинением разоблачительницы Фрэнсис Хауген в адрес Facebook стало то, что руководству компании хорошо известно, что алгоритмы накопления и фильтрации этих усиливают влияние дезинформации и усугубляют психические недуги у пользователей.


Третья революция. Дрон впервые сам убил человека


Чтобы отозваться на эти вопросы, необходимо действовать сразу в нескольких направлениях.


Нужно рассмотреть не только практические и правовые аспекты существования ИИ, но и философские: если ИИ воспринимает такие аспекты реальности, какие люди воспринять не в состоянии, как это может повлиять на восприятие, познавательные способности и взаимодействие людей? Может ли ИИ подружиться с людьми? Каким очутится воздействие ИИ на культуру, человеческую природу и историю?


Кроме того, необходимо расширить рассмотрение вопроса о воздействии ИИ на существование человека, выйдя за рамки разработчиков и регуляторов и задумавшись о таких сферах, как медицина, здравоохранение, окружающая среда, сельское хозяйство, бизнес, психология, философия, история и так дальше.


Цель этих усилий должна заключаться в том, чтобы избежать чрезмерно резких реакций. Нам не нужно полное подчинение ИИ, но, с иной стороны, нам не нужны и жесткие ограничения. Нам нужно поискать золотую середину, то есть способы внушить ИИ человеческие ценности, такие как совершенство и свобода воли, которые так ценит человек.


В Соединенных Штатах необходимо создать комиссию под руководством правительства, в состав какой должны войти эксперты и мыслители из самых разных сфер. Развитие ИИ неизбежно, однако мы в состоянии повлиять на то, каким будет его последний итог.


По материалам: ИноСМИ


Новости от Корреспондент.net в Telegram. Подписывайтесь на наш канал https://t.me/korrespondentnet