От искусственного интеллекта к сверхинтеллекту: Ник Бостром об искусственном интеллекте и будущем человечества

Оригинальное название: From Artificial Intelligence to Superintelligence: Nick Bostrom on AI & The Future of Humanity Ссылка на оригинальное видео: Дата публикации оригинала: 21 ноября 2020 г. Переведенное описание: Искусственный сверхинтеллект или ИСИ, иногда называемый цифровым сверхинтеллектом, — это появление гипотетического агента, который обладает интеллектом, намного превосходящим интеллект самых умных и одаренных людей. Искусственный интеллект — это быстро развивающаяся область технологий, способная значительно улучшить благосостояние людей. Однако разработка машин с интеллектом, значительно превосходящим человеческий, создаст особые, возможно, даже уникальные риски. Большинство опрошенных исследователей ИИ ожидают, что машины в конечном итоге смогут конкурировать с людьми в интеллекте, хотя нет единого мнения о том, когда и как это произойдет. Чтобы осознать неизбежность появления сверхразумного ИИ, достаточно принять три основных предположения: — Интеллект — это продукт обработки информации в физических системах. - Мы продолжим совершенствовать наши интеллектуальные машины. - Мы не стоим на пике интеллекта или где-то рядом с ним. Философ Ник Бостром выразил обеспокоенность по поводу того, какие ценности должен иметь сверхинтеллект. Любой тип сверхразума ИИ может быстро достичь своих запрограммированных целей, практически не передавая власть другим. Он может вообще не принимать во внимание своих дизайнеров. Логика ее целей может быть несовместима с человеческими идеалами. Сила ИИ может заключаться в том, чтобы сделать людей своими слугами, а не наоборот. Если бы ему это удалось, он бы «правил без конкуренции под диктатурой одного». Илон Маск также предупредил, что глобальная гонка за искусственным интеллектом может привести к третьей мировой войне. Чтобы избежать «худшей ошибки в истории», необходимо понять природу расы ИИ, а также избежать развития, которое может привести к появлению недружественного искусственного сверхинтеллекта. Чтобы обеспечить дружественный характер искусственного сверхинтеллекта, мировые лидеры должны работать над тем, чтобы этот ИСИ приносил пользу всему человечеству. #ИИ #АСИ #AGI ПОДПИСЫВАЙТЕСЬ на наш канал «Время науки»: ПОДДЕРЖИТЕ нас на Patreon: КУПИТЬ товары Science Time: Источники: Выступление Ника Бострома: