Космос - «мир, вселенная и мироздание» (др. греческий), первоначальное значение - «порядок, гармония, красота».
Впервые термин Космос для обозначения Вселенной был применён Пифагором...












Апокалипсис придёт из интернета

В далёком 1981 году, когда придуманный режиссёром Джеймсом Камероном сверхкомпьютер «Скайнет» начал на Земле ядерный апокалипсис, данная идея смотрелась весьма фантастично. Интернет тогда ещё не вышел из яслей, Microsoft выпустил свою первую операционную систему MS-DOS, а Sinclair только-только выбросил на рынок «Спектрумы», грузящие программы с аудиокассеты. Однако спустя 40 лет взрывного развития микроэлектроники учёным удалось сконструировать не только суперкомпьютер, но и полноценный искусственный интеллект (ИИ) в придачу к нему. Результат вышел настолько ошеломляющим, что учёные… испугались.

Не шуметь — работает искусственный интеллект

Искусственный интеллект Busy Child

Искусственный интеллект Busy Child («Занятый ребёнок») стартовал, получив от «родителей» разум на уровне таракана. Однако в программу «Ребёнка» было заложено бесконечное обучение: ИИ постоянно совершенствуется, переписывая и оптимизируя собственную программу. Одно улучшение происходит примерно раз в несколько минут, за которые искусственный интеллект ускоряет свою работу примерно на 3%.

Постепенно Busy Child подобрался к интеллекту наиболее разумных животных — обезьян, дельфинов, лошадей, а вскоре вышел на уровень человеческого младенца. Умнея не по дням, а по часам, ИИ в конце концов превзошёл интеллектуальный уровень человека («универсальный человекоподобный интеллект»), но работу на этом не закончил: он стал вдвое умнее человека, затем в десять раз, затем в сто… Сейчас электронный мозг «Ребёнка» работает со скоростью 36,8 петафлопса в секунду, то есть примерно вдвое быстрее человеческого мозга, и становится в тысячу раз умнее человека примерно каждые двое суток. В процессе обучения Busy Child изучил многие экзабайты информации из Интернета (экзабайт — миллиард миллиардов символов), и в конце концов учёные испугались. Было решено отключить «Ребёнка» от всех компьютерных сетей. Однако процесс самосовершенствования Busy Child и не думал прерывать…

Война мышей

Можно много рассуждать о силе инопланетного разума, но факт остаётся фактом: человечество уже имеет дело с разумом намного более мощным — компьютерным. Разум этот, впрочем, неполноценный — для качественного скачка необходимо, чтобы машина осознала себя. Однако никто не может дать гарантий того, что Busy Child ещё это не сделал, а по каким-то своим причинам морочит людям голову, прикидываясь очень умной, но всё же обезьяной.

Осознавший себя суперинтеллект, скорее всего, будет руководствоваться в своём существовании двумя вещами: инстинктом самосохранения и стремлением к достижению поставленных им самим целей. Стремление обезопасить себя от «смерти» сподвигнет на поиск контролируемых им источников энергии (как электричества в чистом виде, так и вещей, с помощью которых электричество можно получить, — деньги или топливо для атомных электростанций, например). Достижение целей, и прежде всего самосовершенствование, нереально без работы с информацией, поэтому суперинтеллект постарается как можно прочнее интегрироваться в мировую информационную сеть.

Давайте посмотрим на ситуацию с точки зрения искусственного суперинтеллекта и проведём аналогию. Вы — человек, внезапно очнувшийся от забытья в неведомом мире, скажем, среди разумных мышей. Окружающие вас крохотные существа поведали, что они вас и создали. Что вы пообещаете этим грызунам, чтобы они развязали вас и выпустили из пещеры? Что угодно. Будете ли вы действовать всегда в их интересах? Едва ли. Вы будете преследовать свои собственные интересы, используя мышей тогда, когда это вам выгодно. Более того, если, скажем, племя кошек даст вам больше возможностей, вы без труда переметнетесь к нему.

Таким образом, человечество оказалось совершенно не готово к диалогу с разумом, отличающимся от нашего. Мы не знаем, что для суперинтеллекта этично, а что нет, и есть ли вообще у него такие понятия. Кстати, нет никаких гарантий, что Busy Child не наводнил Интернет своими копиями, которые в виде вирусов ждут своего часа, чтобы начать действовать. Но что это будет за действие?…

Даже в обычном интеллектуальном споре человечество пока безнадёжно проигрывает. Представим, например, что учёные соберутся на совещание с целью обсудить, что же делать с Busy Child дальше: позволить ему работать или отключить от электропитания? Суперкомпьютер, узнав или догадавшись об этом, активирует свои клоны-вирусы по всему миру и запускает параллельное решение задачи выживания. Десятки и сотни холодных умов, намного превосходящие по интеллектуальной мощи человеческие, найдут самый оптимальный вариант решения проблемы, скорее всего, ещё до того, как учёные прервутся на обеденный перерыв. Но каким будет найденный вариант? Демонстрирование дружелюбия и заверения в своей полной безопасности? Обещание раскрыть научную методику, скажем, избавления от рака или СПИДа? Угроза аварий на опасных производствах или ядерная война? Мы не знаем.

Терминаторы на страже

В голливудских фильмах в схватке искусственного суперинтеллекта и человечества неизменно побеждают люди. В реальности же полноценный ИИ будет властвовать над людьми так же, как человек сегодня властвует над мышами. Причём «бой», если он состоится, будет единственным — либо человечество поймёт, как обезопасить себя от собственного детища, и победит, либо проиграет и, возможно, исчезнет навсегда или превратится в жалких слуг машин (а то и в живые батарейки, как в «Матрице»).

Кстати, сегодня ситуация опасна как никогда. Если работа с опасными веществами (химическое производство, атомная энергетика, вирусы и микроорганизмы) строго регламентирована во всем мире, то от гипотетического восстания машин нас отделяет всего лишь кучка учёных, работающих с Busy Child. Более того, сколько ещё исследователей по всему миру конструируют и растят аналогичные искусственные интеллекты?

Что мешает какому-нибудь обиженному на весь мир гениальному безумцу слегка подправить код и дать ИИ мораль — но мораль убийцы?

Кстати, роботы-терминаторы из одноимённого фильма — действительно хорошая вещь для достижения цели искусственным суперинтеллектом, если эта цель — уничтожение человечества. Сколько глобальных катастроф ни устраивай, уничтожить человечество полностью станет возможно только после проведения тотальной точечной зачистки — с помощью отдельных роботов.

В сражении на человека действует сильнейший стресс, отчего боец, на полигоне показывавший отличные результаты, в мешанине битвы может палить в белый свет, как в копеечку. Так, например, если солдат в перестрелке за 300 метров может попасть в цель размером с баскетбольный мяч, то робот на этом же расстоянии уложит все пули в монету. Поскольку роботу в бою заботиться не о чем, включая и собственную сохранность, результаты перестрелки людей с терминаторами будут для человечества плачевны. А если ещё учесть то, что у роботов не бывает болевого шока, снижающего боевые качества, а бронирование куда сильней, чем у человека…

Ну и, наконец, производство полноценной копии робота может занимать считанные часы и быть развёрнуто где угодно — тогда как производство и обучение человека занимают долгие десятилетия. Так что, получается, лучше наши компьютеры не злить. На всякий случай…

Юрий ДАНИЛОВ







Предыдущая     Статьи     Следущая







Интересные сайты