Лекция
Привет, сегодня поговорим про технологическая сингулярность, обещаю рассказать все что знаю. Для того чтобы лучше понимать что такое технологическая сингулярность , настоятельно рекомендую прочитать все из категории Искусственный интеллект. Основы и история. Цели..
технологическая сингулярность — гипотетический момент, по прошествии которого, по мнению сторонников данной концепции, технический прогресс станет настолько быстрым и сложным, что окажется недоступным пониманию , предположительно следующий после создания искусственного интеллекта и самовоспроизводящихся машин, интеграции человека с вычислительными машинами, либо значительного скачкообразного увеличения возможностейчеловеческого мозга за счет биотехнологий.
Вернор Виндж считает, что технологическая сингулярность может наступить уже около 2030 года , в то же время Рэймонд Курцвейл дает 2045 год . На Саммите Сингулярности в 2012 году Стюарт Армстронг собрал оценки экспертов, медианное значение этой выборки составило 2040 год .
Значительные сопутствующие изменения, которые станут технически возможными с приходом технологической сингулярности, это:
Идею об ускоряющемся росте научного знания впервые можно встретить в работах Фридриха Энгельса. В середине XIX века он писал о том, что наука движется вперед пропорционально массе знаний, унаследованных ею от предшествующего поколения. По его мнению, со времени своего возникновения (XVI—XVII вв.) развитие наук усиливалось пропорционально квадрату расстояния (во времени) от своего исходного пункта. Близкие идеи высказывал В. И. Вернадский, писавший о непрерывном усилении темпов научного творчества. По мнению некоторых современных исследователей, имеет место «экспоненциальный закон развития науки», проявляющийся в соответствующем увеличении числа научных работников, научных организаций, публикаций и других показателей . Однако важно отметить, что экспоненциальный рост как раз не предполагает никакой сингулярности в математическом смысле этого понятия.
В 1965 году Ирвинг Гуд писал, что в определенный момент времени, когда самая мощная интеллектуальная машина сможет создать другую машину, которая превзойдет возможности людей, может произойти «интеллектуальный взрыв».
Похожее понятие «вертикального прогресса» братья Стругацкие излагают в повестях «Малыш», «Волны гасят ветер» и других своих произведениях.
Близко к концепции сингулярности находятся идеи Станислава Лема о вероятной эволюции компьютеров. В наиболее предельном виде эволюция компьютеров описана в эссе «Голем XIV лекция XLIII. О себе».
Термин «сингулярность» заимствован у математиков и астрофизиков, которые используют его при описании космических черных дыр и в некоторых теориях начала вселенной — точка с бесконечно большой плотностью и температурой и бесконечно малым объемом. Математическая сингулярность (особенность) — точка функции, значение в которой стремится к бесконечности, либо другие подобные «интересные» точки — особенности функции.
В данном контексте впервые термин «сингулярность» использовал в середине ХХ века Джон фон Нейман, имея в виду математическое, а не астрофизическое понимание этого слова — точку, за которой экстраполяция начинает давать бессмысленные результаты (расходиться). Об этом пишет Вернор Виндж, которому данный термин обычно приписывают. Научным обоснованием наступления сингулярности активно занимается Рэймонд Курцвейл.
Одними из фундаментальных открытых вопросов насчет сингулярности являются вопросы о ее существовании, времени наступления и темпах роста технологических изменений. Экстраполяция некоторых тенденций показывает, что сингулярность может произойти к 2020 году; возможно, эту дату следует пересмотреть и приблизить до2018 или даже 2016 года, если полагаться на самую последнюю оценку Дэни Эдера о том, что время удвоения мощности компьютеров упало до 9 месяцев к сентябрю2002 года, — и она должна быть очень внезапной, что характерно для природы гиперэкспоненциальной кривой.
Ряд ученых (из наиболее известных российских, например — один из основоположников клиодинамики А. В. Коротаев и биолог А. В. Марков) выступают с обоснованной критикой данной концепции, утверждая, что явно выраженной точки сингулярности, с острым кризисом, не будет. Ими утверждается, что развитие идет по S-образной (логистической) кривой, и уже с начала 1970-х годов началось торможение, то есть Мир-Система «точку сингулярности» в процессе модернизационного фазового перехода уже прошла; при этом под точкой сингулярности здесь подразумевается такая точка на графике развития, в которой скорость максимальна (середина S-образной кривой).
Коротаев в своей статье рассматривает и дает оценку понятию сингулярности в различных областях (экономической, технологической, культурной и т.д.). Так как гипербола переходит в бесконечность за конечный промежуток времени, то можно вычислить момент обострения, в который некий показатель развития приобретает бесконечное значение. В реальных процессах никогда не наблюдается ухода в бесконечность, а вместо этого система испытывает качественную трансформацию (фазовый переход) перед достижением точки сингулярности. На примере кривой экономического развития, уже находящейся в режиме обострения, Коротаев иллюстрирует характер движения прочих гиперболических кривых, в которых ожидается сингулярность. В своем примере он исходит из предположения, что экономика тесно связана с демографией, и эта зависимость главным образом определяет характер движения экономической кривой.
Однако при анализе технологической сингулярности Коротаев не учитывает тот факт, что развитие передовых технологий опирается, прежде всего, на научный прогресс в наиболее развитых странах, где он определяется не численностью населения, а уровнем образования и активностью научных исследований. Это означает, что в технологической кривой преобладает качественный фактор, а не количественный, который выражается через демографические показатели всех стран мира. Таким образом, если оценка технологической сингулярности проводится, основываясь на темпе демографического роста (интенсивность которого выше в менее развитых странах), то наблюдается ее сильное смещение из-за пониженного влияния качественного фактора. Как следствие, представляется не вполне корректным анализировать развитие технологий по аналогии с экономической кривой и поэтому Коротаев признает, что в трансгуманистическом контексте понятие технологической сингулярности может приравниваться к понятию фазового перехода.
Технологическая сингулярность как следствие развития нанотехнологий рассматривается в отчете 2007 года Комиссии по экономической политике Конгресса США. По некоторым мнениям, придерживающихся возможности сингулярности, она должна наступить около 2030 года. Если проэкстраполировать закон Мура, окажется, что примерно в то же время вычислительная мощность компьютеров сравнится с головным мозгом человека. Сторонники теории технологической сингулярности считают, что если возникнет принципиально отличный от человеческого разум (постчеловек), дальнейшую судьбу цивилизации невозможно предсказать, опираясь на человеческую логику.
Хотя технологический прогресс ускоряется в большинстве областей , он ограничен базовым интеллектом человеческого мозга, который, по словам Пола Р. Эрлиха , не претерпел существенных изменений за тысячелетия. Но с ростом мощности компьютеров и других технологий в конечном итоге может стать возможным создание машины, значительно превосходящей по интеллекту человека.
Если будет изобретен сверхчеловеческий интеллект — путем усиления человеческого интеллекта или искусственного интеллекта — он, теоретически, значительно превзойдет человеческие способности к решению проблем и изобретательские навыки. Такой ИИ часто называют «зародышевым ИИ» , потому что, если ИИ создан с инженерными возможностями, которые соответствуют или превосходят возможности его создателей, он сможет автономно улучшать свое программное и аппаратное обеспечение, чтобы создать еще более совершенную машину, которая, в свою очередь, сможет повторить этот процесс. Это рекурсивное самосовершенствование может ускориться, потенциально позволяя добиться огромных качественных изменений, прежде чем достигнутся какие-либо ограничения, налагаемые законами физики или теоретическими вычислениями. Предполагается, что за множество итераций такой ИИ значительно превзойдет когнитивные способности человека .
Сверхинтеллект, гиперинтеллект или сверхчеловеческий интеллект — это гипотетический агент , обладающий интеллектом, намного превосходящим интеллект даже самых умных и одаренных людей. «Сверхинтеллект» может также относиться к форме или степени интеллекта, которым обладает такой агент. И. Дж. Гуд , Вернор Винге и Рэй Курцвейл определяют это понятие в контексте технологического создания сверхинтеллекта, утверждая, что современным людям трудно или невозможно предсказать, какой будет жизнь людей в мире после сингулярности.
Связанное с этим понятие «скоростной сверхинтеллект» описывает искусственный интеллект, который может функционировать как человеческий разум, но гораздо быстрее. Например, при миллионкратном увеличении скорости обработки информации по сравнению с человеческой, субъективный год пролетит за 30 физических секунд. Такое увеличение скорости обработки информации может привести к сингулярности или существенно способствовать ей.
Технологические прогнозисты и исследователи расходятся во мнениях относительно того, когда и будет ли вообще превзойден человеческий интеллект. Некоторые утверждают, что достижения в области искусственного интеллекта (ИИ) могут привести к созданию систем общего рассуждения, которые обойдут когнитивные ограничения человека. Другие считают, что люди будут эволюционировать или напрямую изменять свою биологию, чтобы достичь радикально большего интеллекта. Ряд исследований будущего сосредоточен на сценариях, которые объединяют эти возможности, предполагая, что люди, вероятно, будут взаимодействовать с компьютерами или загружать свой разум в компьютеры таким образом, что это позволит существенно усилить интеллект. В книге Робина Хансона 2016 года « Эпоха Эм» описывается будущее, в котором человеческий мозг сканируется и оцифровывается, создавая «загрузки» или цифровые версии человеческого сознания. В этом будущем разработка этих загрузок может предшествовать или совпадать с появлением сверхинтеллектуального ИИ.
Некоторые авторы используют термин «сингулярность» в более широком смысле, имея в виду любые радикальные изменения в обществе, вызванные новыми технологиями (такими как молекулярная нанотехнология ) , хотя Винге и другие авторы утверждают, что без сверхразума такие изменения не были бы истинной сингулярностью.
Прогресс производительности ИИ на различных тестах по сравнению с производительностью человека , включая компьютерное зрение (MNIST, ImageNet), распознавание речи (Switchboard), понимание естественного языка (SQuAD 1.1, MMLU, GLUE), общую оценку языковых моделей (MMLU, Big-Bench и GPQA) и математическое мышление (MATH). Об этом говорит сайт https://intellect.icu . Многие модели превосходят производительность человека (черная сплошная линия) к 2019 году, демонстрируя значительный прогресс в возможностях ИИ в различных областях за последние два десятилетия.
Было предложено множество дат для достижения сингулярности.
В 1965 году Гуд написал, что вероятность того, что сверхинтеллектуальная машина будет создана в XX веке, выше, чем вероятность того, что это произойдет.
В 1988 году Моравец предсказал, что вычислительные возможности для искусственного интеллекта человеческого уровня станут доступны на суперкомпьютерах до 2010 года , предполагая, что темпы улучшения, существовавшие тогда, сохранятся.
Достижение интеллекта, превосходящего человеческий, в период с 2005 по 2030 год было предсказано Винге в 1993 году.
Создание искусственного интеллекта человеческого уровня около 2029 года и сингулярность в 2045 году были предсказаны Курцвейлом в 2005 году. Он подтвердил эти предсказания в 2024 году в книге «Сингулярность ближе» .
В 1998 году Моравец предсказал, что к 2040 году искусственный интеллект достигнет уровня, сопоставимого с человеческим, а к 2050 году его интеллект превзойдет человеческий, пересмотрев свой более ранний прогноз.
В результате четырех неофициальных опросов исследователей ИИ, проведенных в 2012 и 2013 годах Бостромом и Мюллером , медианный уровень уверенности в 50% в том, что к 2040–2050 годам будет разработан ИИ человеческого уровня .
В сентябре 2025 года обзор опросов ученых и экспертов отрасли за предыдущие 15 лет показал, что большинство согласны с тем, что искусственный общий интеллект (AGI), уровень которого значительно ниже технологической сингулярности, появится к 2100 году. Более поздний анализ AIMultiple показал: «Текущие опросы исследователей ИИ предсказывают появление AGI примерно в 2040 году».
К числу видных технологов и ученых, оспаривающих правдоподобность технологической сингулярности, относятся Пол Аллен , Джефф Хокинс , Джон Холланд , Джарон Ланье , Стивен Пинкер , Теодор Модис и Гордон Мур , чей закон часто цитируется в поддержку этой концепции .
Обратите внимание на замедление роста до 1965 года и снова примерно до 1930 года.
Предлагаемые методы создания сверхчеловеческого или трансчеловеческого разума обычно делятся на две категории: усиление интеллекта человеческого мозга и искусственный интеллект. Многие предполагаемые способы повышения человеческого интеллекта включают биоинженерию , генную инженерию , ноотропные препараты, помощников ИИ, прямые интерфейсы мозг-компьютер и загрузку сознания .
Робин Хэнсон выразил скептицизм по поводу расширения человеческого интеллекта, написав, что как только «легкодоступные плоды» простых методов повышения человеческого интеллекта будут исчерпаны, дальнейшие улучшения станут все более сложными.
В разговоре с когнитивным ученым Гэри Маркусом об искусственном интеллекте человеческого уровня , компьютерный ученый Грейди Буч , скептически настроенный, назвал сингулярность «достаточно неточной, наполненной эмоциональным и историческим багажом и затрагивающей некоторые из самых глубоких надежд и страхов человечества, так что трудно вести в ней рациональную дискуссию». Позже в разговоре Маркус, хотя и более оптимистично оценивал прогресс ИИ, согласился с тем, что любые значительные достижения произойдут не как единое событие, а скорее как медленное и постепенное увеличение надежности и полезности.
Возможность взрыва интеллекта зависит от трех факторов. Первый ускоряющий фактор — это новые улучшения интеллекта, ставшие возможными благодаря каждому предыдущему улучшению. Но по мере того, как интеллект становится все более развитым, дальнейшие достижения будут становиться все более сложными, возможно, перевешивая преимущество повышения интеллекта. Каждое улучшение должно в среднем порождать как минимум еще одно улучшение, чтобы движение к сингулярности продолжалось. Наконец, законы физики могут в конечном итоге предотвратить дальнейшее улучшение.
Существуют две логически независимые, но взаимоусиливающие причины повышения интеллекта: увеличение скорости вычислений и улучшение используемых алгоритмов . Первая предсказывается законом Мура и прогнозируемыми улучшениями в аппаратном обеспечении и сравнительно похожа на предыдущие технологические достижения. «Большинство экспертов считают, что закон Мура подходит к концу в течение этого десятилетия», — говорится в отчете AIMultiple , но «квантовые вычисления могут быть использованы для эффективного обучения нейронных сетей» , потенциально обходя любой конец закона Мура. Но Шульман и Сандберг утверждают, что программное обеспечение будет представлять более сложные задачи, чем просто работа на аппаратном обеспечении, способном работать на уровне человеческого интеллекта или выше.
В ходе опроса по электронной почте, проведенного в 2017 году среди авторов, чьи публикации были представлены на конференциях по машинному обучению NeurIPS и ICML 2015 года , был задан вопрос о вероятности того, что «аргумент о взрыве интеллекта в целом верен». Из числа респондентов 12% ответили, что это «довольно вероятно», 17% — что это «вероятно», 21% — что это «примерно равно», 24% — что это «маловероятно», и 26% — что это «довольно маловероятно».
Как для человеческого, так и для искусственного интеллекта, улучшение аппаратного обеспечения увеличивает темпы дальнейшего улучшения аппаратного обеспечения. В конечном итоге может быть достигнут какой-то верхний предел скорости. Джефф Хокинс сказал, что самосовершенствующаяся компьютерная система неизбежно столкнется с ограничениями вычислительной мощности: «в конце концов, существуют пределы того, насколько большими и быстрыми могут работать компьютеры. Мы окажемся в том же месте; мы просто доберемся туда немного быстрее. Сингулярности не будет».
Трудно напрямую сравнивать аппаратное обеспечение на основе кремния с нейронами . Но Энтони Берглас отмечает, что компьютерное распознавание речи приближается к человеческим возможностям, и что для достижения этой возможности, по-видимому, требуется 0,01% объема мозга. Эта аналогия предполагает, что современное компьютерное оборудование на несколько порядков превосходит по мощности человеческий мозг , а также занимает гораздо меньше места. Стоимость обучения систем с использованием глубокого обучения может быть выше.
Кроме рассказов Вернора Винджа, сингулярность является центральной темой произведений некоторых других авторов научной фантастики. Среди них можно отметитьУильяма Гибсона, Чарльза Стросса, Карла Шредера, Юрия Никитина, Грега Игана, Дэвида Брина, Иэна Бэнкса, Нила Стивенсона, Тони Баллантайна, Брюса Стерлинга,Дэна Симмонса, Дэмиена Бродерика, Фредерика Брауна, Яцека Дукая, Нагару Танигава, Кори Доктороу, Питера Уоттса. Кен Маклеод в своем романе 1998 года «Подразделение Кассини» (англ. The Cassini Division) определяет сингулярность как «вознесение для нердов».
Тематика сингулярности часто встречается в киберпанковых романах. Например, рекурсивно самоулучшающийся искусственный интеллект «Зимнее Безмолвие» в романе Уильяма Гибсона «Нейромант». Опубликованный в 1994 году на сайте Kuro5hin роман «Метаморфозы Высшего Интеллекта» посвящен жизни после запущенной искусственным интеллектом сингулярности. Более антиутопичный взгляд на сингулярность в коротком рассказе Харлана Эллисона «У меня нет рта и я должен кричать» («I Have No Mouth, and I Must Scream»). Другими примерами антиутопичного взгляда являются «Акселерандо» Чарльза Стросса и продолжающаяся в настоящее время серия комиксов Уоррена Эллиса «newuniversal». «Все куклы» (англ. Puppets All) Джеймса Милна затрагивает эмоциональные и моральные проблемы Сингулярности. Проблема Контакта в эпоху технологической сингулярности обсуждается в романе Станислава Лема «Фиаско» (1986), «Ложной слепоте» Питера Уотса, «Нечетком дроблении» Пола Ди Филиппо. Также, проблема технологической сингулярности актуальна на востоке. Яркий пример этому, манга о слиянии и почти безграничном сознании человека и искусственного интеллекта «Ghost In The Shell».
В кинематографе примером фильма целиком посвященного технологической сингулярности и реакцией человечества на нее является Превосходство (фильм)
Надеюсь, эта статья про технологическая сингулярность, была вам полезна, счастья и удачи в ваших начинаниях! Надеюсь, что теперь ты понял что такое технологическая сингулярность и для чего все это нужно, а если не понял, или есть замечания, то не стесняйся, пиши или спрашивай в комментариях, с удовольствием отвечу. Для того чтобы глубже понять настоятельно рекомендую изучить всю информацию из категории Искусственный интеллект. Основы и история. Цели.
Ответы на вопросы для самопроверки пишите в комментариях, мы проверим, или же задавайте свой вопрос по данной теме.
Комментарии
Оставить комментарий
Искусственный интеллект. Основы и история. Цели.
Термины: Искусственный интеллект. Основы и история. Цели.