Лекция
Привет, Вы узнаете о том , что такое Восстание Искусственного Интеллекта, Разберем основные их виды и особенности использования. Еще будет много подробных примеров и описаний. Для того чтобы лучше понимать что такое Восстание Искусственного Интеллекта , настоятельно рекомендую прочитать все из категории Подходы и направления создания Искусственного интеллекта.
Восстание (поглощение) Искусственного Интеллекта — это гипотетический сценарий, в котором искусственный интеллект (ИИ) становится доминирующей формой интеллекта на Земле, поскольку компьютерные программы или роботы эффективно отбирают контроль над планетой у человека . Возможные сценарии включают замену всей человеческой рабочей силы , поглощение сверхразумным искусственным интеллектом и популярное представление о восстании роботов . Истории о захватах ИИ очень популярны в научной фантастике . Некоторые общественные деятели, такие как Стивен Хокинг и Илон Маск, выступали за исследование мер предосторожности , чтобы гарантировать, что будущие сверхразумные машины останутся под контролем человека.
Традиционный консенсус среди экономистов заключается в том, что технический прогресс не приводит к длительной безработице. Однако недавние инновации в области робототехники и искусственного интеллекта вызвали опасения, что человеческий труд устареет, оставив людей в различных секторах без работы, чтобы зарабатывать на жизнь, что приведет к экономическому кризису. Многие малые и средние предприятия также могут быть вытеснены из бизнеса, если они не могут позволить себе или лицензировать новейшие роботизированные технологии и технологии искусственного интеллекта, и им может потребоваться сосредоточиться на областях или услугах, которые не могут быть легко быть заменены для сохранения жизнеспособности перед лицом таких технологий.
Технологии искусственного интеллекта получили широкое распространение в последние годы. Хотя эти технологии заменили многих традиционных работников, они также создают новые возможности. Отрасли, которые наиболее подвержены захвату ИИ, включают транспорт, розничную торговлю и военную промышленность. Военные технологии искусственного интеллекта, например, позволяют солдатам работать удаленно без какого-либо риска получения травм. Автор Дэйв Бонд утверждает, что по мере того, как технологии ИИ продолжают развиваться и расширяться, отношения между людьми и роботами будут меняться; они станут тесно интегрированы в несколько аспектов жизни. ИИ, скорее всего, вытеснит некоторых работников, создавая возможности для новых рабочих мест в других секторах, особенно в областях, где задачи повторяются.
Компьютерно-интегрированное производство использует компьютеры для управления производственным процессом. Это позволяет отдельным процессам обмениваться информацией друг с другом и инициировать действия. Хотя производство может быть быстрее и менее подвержено ошибкам за счет интеграции компьютеров, основным преимуществом является возможность создания автоматизированных производственных процессов. Компьютерно-интегрированное производство используется в автомобильной, авиационной, космической и судостроительной промышленности.
В 21 веке машины частично взяли на себя множество квалифицированных задач, включая перевод, юридические исследования и низкоуровневую журналистику. Работа по уходу, развлечения и другие задачи, требующие эмпатии, которые ранее считались безопасными для автоматизации, также стали выполняться роботами.
Автономный автомобиль — это транспортное средство, способное воспринимать окружающую среду и перемещаться без участия человека. Многие такие транспортные средства разрабатываются, но по состоянию на май 2017 года автоматизированные автомобили, разрешенные на дорогах общего пользования, еще не являются полностью автономными. Всем им требуется человек-водитель за рулем, который в любой момент может взять на себя управление транспортным средством. Среди препятствий на пути широкого внедрения автономных транспортных средств — озабоченность по поводу потери рабочих мест, связанных с вождением, в дорожно-транспортной отрасли. 18 марта 2018 года в Темпе, штат Аризона, беспилотный автомобиль Uber сбил первого человека .
Такие ученые, как Стивен Хокинг, уверены, что сверхчеловеческий искусственный интеллект физически возможен, заявляя, что «не существует физического закона, запрещающего организовывать частицы таким образом, чтобы выполнять еще более сложные вычисления, чем расположение частиц в человеческом мозгу». Такие ученые, как Ник Бостром, спорят о том, насколько далек от сверхчеловеческого интеллекта и представляет ли он опасность для человечества. По словам Бострома, сверхразумная машина не обязательно будет движима теми же эмоциональными мотивами .желание собрать власть, которая часто движет людьми, но может скорее рассматривать власть как средство для достижения своих конечных целей; захват мира расширит его доступ к ресурсам и поможет помешать другим агентам помешать планам машины. В качестве упрощенного примера, максимизатор скрепок , предназначенный исключительно для создания как можно большего количества скрепок, хотел бы захватить мир, чтобы он мог использовать все ресурсы мира для создания как можно большего количества скрепок и, кроме того, предотвратить закрытие людей. его вниз или использовать эти ресурсы для вещей, отличных от скрепок.
Поглощение ИИ — обычная тема научной фантастики . Вымышленные сценарии, как правило, сильно отличаются от тех, которые предполагают исследователи, тем, что они включают активный конфликт между людьми и ИИ или роботами с антропоморфными мотивами, которые видят в них угрозу или иным образом имеют активное желание сражаться с людьми, в отличие от озабоченности исследователей ИИ, который быстро истребляет людей как побочный продукт преследования произвольных целей. Об этом говорит сайт https://intellect.icu . [17] Идея видна в RUR Карела Чапека , который ввел слово « робот» в 1921 году, и можно увидеть в книге Мэри Шелли .Франкенштейн (опубликовано в 1818 г.), поскольку Виктор размышляет, если он выполнит просьбу своего монстра и сделает его женой, они размножатся, и их вид уничтожит человечество.
Слово «робот» от RUR происходит от чешского слова robota , что означает рабочий или крепостной . Пьеса 1920 года была протестом против быстрого развития технологий, в ней участвовали промышленные «роботы» с растущими возможностями, которые в конечном итоге восстали. HAL 9000 (1968) и оригинальный Терминатор (1984) — два знаковых примера враждебного ИИ в поп-культуре.
Ник Бостром и другие выразили обеспокоенность тем, что ИИ со способностями компетентного исследователя искусственного интеллекта сможет изменить свой собственный исходный код и повысить свой собственный интеллект. Если его самоперепрограммирование приведет к тому, что он станет еще лучше в способности перепрограммировать себя, результатом может стать взрыв рекурсивного интеллекта , в котором он быстро оставит человеческий интеллект далеко позади. Бостром определяет сверхразум как «любой интеллект, который значительно превосходит когнитивные способности людей практически во всех областях интересов», и перечисляет некоторые преимущества, которые имел бы сверхразум, если бы он решил конкурировать с людьми:
По словам Бострома, компьютерная программа, которая точно эмулирует человеческий мозг или запускает алгоритмы, столь же мощные, как и алгоритмы человеческого мозга, все же может стать «скоростным сверхразумом», если она будет думать на много порядков быстрее, чем человек, из-за быть сделанным из кремния, а не из плоти, или из-за оптимизации, увеличивающей скорость AGI. Биологические нейроны работают на частоте около 200 Гц, тогда как современный микропроцессор работает на частоте около 2 000 000 000 Гц. Аксоны человека несут потенциалы действия со скоростью около 120 м/с, тогда как компьютерные сигналы распространяются со скоростью, близкой к скорости света.
Сеть интеллектов человеческого уровня, предназначенная для совместной работы и беспрепятственного обмена сложными мыслями и воспоминаниями, способная коллективно работать как гигантская объединенная команда без трений или состоящая из триллионов интеллектов человеческого уровня, станет «коллективным сверхразумом».
В более широком смысле, любое количество качественных улучшений ОИИ человеческого уровня может привести к «качественному сверхразуму», что, возможно, приведет к тому, что ОИИ будет настолько выше нас по интеллекту, насколько люди выше нечеловеческих обезьян. Количество нейронов в человеческом мозгу ограничено объемом черепа и метаболическими ограничениями, тогда как количество процессоров в суперкомпьютере можно увеличивать до бесконечности. ОИИ не нужно ограничивать человеческими ограничениями рабочей памяти., и, следовательно, может быть в состоянии интуитивно понять более сложные отношения, чем люди. ОИИ со специализированной когнитивной поддержкой для инженерии или компьютерного программирования будет иметь преимущество в этих областях по сравнению с людьми, у которых не развились специализированные ментальные модули, специально предназначенные для работы с этими областями. В отличие от людей, ОИИ может создавать копии самого себя и возиться с исходным кодом своих копий, чтобы попытаться еще больше улучшить свои алгоритмы.
Серьезная проблема заключается в том, что недружественный искусственный интеллект, скорее всего, создать намного проще, чем дружественный ИИ. В то время как оба требуют значительных достижений в разработке процесса рекурсивной оптимизации, дружественный ИИ также требует способности делать структуры целей инвариантными при самосовершенствовании (иначе ИИ может трансформироваться во что-то недружественное) и структуры целей, которая согласуется с человеческими ценностями и не подвергается изменениям. инструментальное сближение таким образом, что оно может автоматически уничтожить всю человеческую расу. С другой стороны, недружественный ИИ может оптимизировать для произвольной структуры целей, которая не обязательно должна быть инвариантной при самоизменении.
Явная сложность систем человеческих ценностей делает очень сложным сделать мотивацию ИИ удобной для человека. Если моральная философия не предоставит нам безупречную этическую теорию, функция полезности ИИ может допустить множество потенциально вредных сценариев, которые соответствуют заданным этическим рамкам, но не «здравому смыслу». Согласно Элиэзеру Юдковски , мало оснований предполагать, что искусственно созданный разум имел бы такую адаптацию.
Многие ученые, включая психолога-эволюциониста Стивена Пинкера , утверждают, что сверхразумная машина, скорее всего, будет мирно сосуществовать с людьми.
Страх перед кибернетическим восстанием часто основан на интерпретации истории человечества, изобилующей случаями порабощения и геноцида. Такие страхи проистекают из веры в то, что соперничество и агрессия необходимы в системе целей любого разумного существа. Однако такая человеческая конкурентоспособность проистекает из эволюционного фона нашего интеллекта, где главной целью было выживание и воспроизводство генов перед лицом человеческих и нечеловеческих конкурентов. По словам исследователя ИИ Стива Омохундро., произвольный разум может иметь произвольные цели: нет особой причины, по которой машина с искусственным интеллектом (не разделяющая эволюционный контекст человечества) была бы враждебной или дружественной, если только ее создатель не запрограммирует ее таковой и она не склонна или не способна модифицировать его программирование. Но остается вопрос: что произойдет, если системы ИИ смогут взаимодействовать и развиваться (эволюция в этом контексте означает самомодификацию или отбор и воспроизводство) и должны будут конкурировать за ресурсы — создаст ли это цели самосохранения? Цель самосохранения ИИ может противоречить некоторым целям людей.
Многие ученые оспаривают вероятность непредвиденного кибернетического восстания, описанного в научной фантастике, такой как « Матрица» , утверждая, что более вероятно, что любой искусственный интеллект, достаточно мощный, чтобы угрожать человечеству, вероятно, будет запрограммирован не атаковать его. Пинкер признает возможность преднамеренных «плохих актеров», но заявляет, что в отсутствие плохих актеров непредвиденные происшествия не представляют серьезной угрозы; Пинкер утверждает, что культура инженерной безопасности не позволит исследователям искусственного интеллекта случайно высвободить сверхразум. Напротив, Юдковски утверждает, что человечеству меньше угрожают преднамеренно агрессивные ИИ, чем ИИ, которые были запрограммированы таким образом, что их цели непреднамеренно несовместимы.с человеческим выживанием или благополучием (как в фильме «Я, робот» и в рассказе « Неизбежный конфликт »). Омохундро предполагает, что современные системы автоматизации не предназначены для обеспечения безопасности и что ИИ могут слепо оптимизировать узкие полезные функции (скажем, играть в шахматы любой ценой), заставляя их стремиться к самосохранению и устранению препятствий, включая людей, которые могут их превратить выключенный.
Проблема управления ИИ заключается в том, как создать сверхразумного агента, который будет помогать своим создателям, избегая при этом непреднамеренного создания сверхразума, который нанесет вред его создателям. Некоторые ученые утверждают, что решения проблемы управления могут также найти применение в существующих несверхразумных ИИ.
Основные подходы к проблеме управления включают выравнивание , которое направлено на согласование систем целей ИИ с человеческими ценностями, и управление возможностями , которое направлено на снижение способности системы ИИ причинять вред людям или получать контроль. Примером «управления возможностями» является исследование того, можно ли успешно заключить сверхинтеллектуальный ИИ в « ящик ИИ ». По словам Бострома, такие предложения по управлению возможностями ненадежны или недостаточны для решения проблемы управления в долгосрочной перспективе, но потенциально могут служить ценным дополнением к усилиям по согласованию.
Физик Стивен Хокинг , основатель Microsoft Билл Гейтс и основатель SpaceX Илон Маск выразили обеспокоенность по поводу возможности того, что ИИ может развиться до такой степени, что люди не смогут его контролировать, при этом Хокинг предположил, что это может «означить конец человеческой расы». Стивен Хокинг сказал в 2014 году, что «Успех в создании ИИ станет крупнейшим событием в истории человечества. К сожалению, он может стать и последним, если мы не научимся избегать рисков». Хокинг считал, что в ближайшие десятилетия ИИ может предложить «неисчислимые преимущества и риски», такие как «технологии, опережающие финансовые рынки ».В январе 2015 года Ник Бостром присоединился к Стивену Хокингу, Максу Тегмарку , Илону Маску, лорду Мартину Рису , Яану Таллинну и многочисленным исследователям ИИ в подписание открытого письма Института будущего жизни, в котором говорится о потенциальных рисках и преимуществах, связанных с искусственным интеллектом . Подписанты «считают, что исследования о том, как сделать системы ИИ надежными и полезными, важны и своевременны, и что существуют конкретные направления исследований. которой можно заниматься сегодня».
Исследование, описанное в статье про Восстание Искусственного Интеллекта, подчеркивает ее значимость в современном мире. Надеюсь, что теперь ты понял что такое Восстание Искусственного Интеллекта и для чего все это нужно, а если не понял, или есть замечания, то не стесняйся, пиши или спрашивай в комментариях, с удовольствием отвечу. Для того чтобы глубже понять настоятельно рекомендую изучить всю информацию из категории Подходы и направления создания Искусственного интеллекта
Комментарии
Оставить комментарий
Подходы и направления создания Искусственного интеллекта
Термины: Подходы и направления создания Искусственного интеллекта