Архив рубрики: Искусственный интеллект

Думать самим или разумом ИИ?

(Октябрь 2017)

Одни умные люди уверены, что наша цивилизация выходит на крайне опасный этап развития, грозящий уничтожить человечество как вид. Их отнюдь не глупые оппоненты-скептики настаивают, что угрозы эти измышляются фантазерами. Кто-то из мудрецов явно неправ…

«Жизнь 3.0» и «Карта маршрутов»

Случилось так, что два известных в своих областях человека независимо и практически одновременно опубликовали две исследовательские работы, дающие диаметрально противоположные, по сути, взгляды на одну и ту же большую проблему. Собственно проблему можно сформулировать словами «Искусственный Интеллект как угроза существованию человечества», а суть принципиально разных к ней подходов у данных авторов сводится к следующему.

Макс Тегмарк наиболее известен в мире как физик-теоретик. Но кроме того, он активно занимается общественной деятельностью и несколько лет назад стал сооснователем Института «Будущее Жизни» в Кембридже, штат Массачусетс, США (девиз института: «Технологии как никогда раньше дают жизни потенциал к процветанию… или же к самоуничтожению. Так давайте сделаем так, чтобы разница зависела от нас!»).

Теперь же, в своей новой книге «Жизнь 3.0: быть Человеком в эпоху Искусственного Интеллекта» (Max Tegmark, «Life 3.0: Being Human in the Age of Artificial Intelligence», Knopf: 2017), Тегмарк подробно анализирует одну из наиболее существенных особенностей в развитии новейших технологий – стремительную эволюцию систем ИИ. Главным итогом анализов ученого здесь становится вывод, что очевидные риски данного процесса уже сейчас требуют от нас серьезнейших размышлений и очень аккуратных действий. Если, конечно, у людей имеется понимание, что наше «космическое предназначение» совсем не в том, чтобы по ходу прогресса оказаться выброшенными на обочину истории…

Работа вторая – оценивающая «угрозы ИИ» с абсолютно иных позиций – это аналитическое эссе от профессора-правоведа Райана Кало, опубликованное под названием «Политика в области Искусственного Интеллекта: карта маршрутов». За последние годы Кало, как профессиональный юрист, активно занимающийся проблемами на стыке инфотехнологий и права, заслужил в США авторитет «ведущего эксперта по законам роботехники».

Существенно подкрепили этот статус профессора такие, в частности, факты. В период президентства Обамы именно Кало устроил и провел в Белом доме первый семинар по политике в области ИИ. После чего он же организовал аналогичные семинары для Национальной академии наук и для NSF, Национального научного фонда США, раздающего исследователям гранты, а затем – ещё и для спецслужбы DHS, то есть Департамента безопасности отечества.

И вот теперь, в свежем эссе про «Карту маршрутов ИИ», Райан Кало развернуто подытоживает свои исследования и популярно объясняет, о чем в действительности «следует беспокоиться политикам в отношении искусственного интеллекта». В частности, здесь всячески раскритикованы аргументы таких пророков катастроф и несчастий, как Илон Маск и Ник Бострём, Стив Хокинг и уже упомянутый Макс Тегмарк.
Реальное же беспокойство у тех, кто принимает решения, должно вызывать, по мнению Кало, недостаточное финансирование наиболее перспективных ИИ-проектов. Недостаточное по той причине, что необходимые средства и ценные человеческие мозги интенсивно отвлекаются на предотвращение несуществующих угроз, придумываемых фантазерами…

Читать далее Думать самим или разумом ИИ?

АА+ИИ… и не нужно никаких паролей

(Июнь 2017)

То, что связка логин+пароль это слабое и неудачное решение для защиты доступа, хорошо понимали даже полвека назад, на заре компьютерной эпохи. Но вот что применять взамен – постигать начали совсем недавно…

Между прошлым и будущим

Случилось так, что в мае 2017 произошла весьма символичная встреча инфотехнологий прошлого и будущего – в той особенной области человеческой деятельности, что обычно принято именовать «контроль доступа и защита информации».

Если говорить о прошлом – и настоящем – этого дела, то в первых числах мая компьютерные пользователи всего мира отмечали довольно необычный праздник (о котором большинство людей, возможно, даже не в курсе). Международный праздник называется «День паролей» или World Password Day, отмечается 4 мая, а учрежден ради пропаганды грамотного использования этой важной меры безопасности среди широких народных масс.

Что же касается будущего, то в последних числах мая СМИ впервые сообщили о том, что корпорация Apple активно работает ныне над весьма необычным новым чипом – носящем название Neuro Engine или «нейродвижок» в более-менее адекватном переводе на русский. Грамотные обозреватели рынка в общем-то в курсе, что термин «нейро-» применительно к процессору означает аппаратное воплощение идеи нейросетей для систем искусственного интеллекта.

Однако сама компания Apple, знаменитая своей скрытностью, пока что категорически не желает ни комментировать слухи о новом чипе, ни – тем более – раскрывать цели его создания. Иначе говоря – пока это как бы загадка и «коммерческая тайна» фирмы.

Но с другой стороны, если хорошо представлять себе ту непростую ситуацию и проблемы, что давно характерны для роли паролей в сфере инфозащиты, то нынешняя инициатива Apple выглядит не только не загадочной, но и более того, совершенно естественной и своевременной. Если знать, конечно, каковы на сегодня важнейшие идеи и тенденции относительно ближайшего будущего в этой горячей области.

И поскольку просто так – в лоб – раскрывать «великую тайну» о новой разработке корпорации-гиганта было бы и неинтересно, и не особо убедительно, имеет смысл рассказать историю иначе. О том, что за беды и проблемы с этими паролями были всегда, какими способами их пытаются решать сегодня, почему это тоже не лучшее решение, и как, наконец, будет выглядеть действительно сильная защита доступа в нашем недалеком грядущем.

При такой подаче материала для понимания новой инициативы Apple уже не понадобится ни домыслов, ни дополнительной информации от инсайдеров. Но дабы картина эта выглядела действительно внятной и убедительной, прежде желательно иметь четкое представление о том, что же сегодня понимают под «сильными паролями». И почему эту силу так трудно обеспечить.

Читать далее АА+ИИ… и не нужно никаких паролей

Схватка интеллектов

(Февраль 2003)

Достижим с помощью компьютера искусственный разум или нет — точно науке не известно. Однако создаваемые ныне программистами системы искусственного интеллекта встречаются в реальной жизни все чаще и чаще, причем в разумности своей они порой неотличимы от человеческого поведения.

4_games

Что нам мешает — то нам поможет

Великий английский математик Алан Тьюринг не пользовался термином «искусственный интеллект» (ИИ), поскольку при его жизни такого словосочетания в нарождавшемся компьютерном лексиконе еще не было. Но именно Тьюринг в своей статье 1950 года «Компьютерное машинное оборудование и интеллект» [1] сформулировал знаменитый, впоследствии получивший его имя тест на разумное поведение компьютера.

Тьюринг описал некую воображаемую игру, в которой человек-дознаватель попеременно общается по проводам с человеком и компьютером, находящимися в другом помещении. Задача дознавателя в том, чтобы с помощью серии вопросов определить, кто из его собеседников человек, а кто — машина.

По предположению Тьюринга, машину можно называть мыслящей, если человек-дознаватель не способен отличить ее ответы от ответов другого человека. Тогда же Тьюрингом был сделан и прогноз, что к 2000 году при пятиминутном тест-опросе компьютеры смогут вводить в заблуждение дознавателя по меньшей мере в 30% случаев.

С тех пор прошло полвека и можно говорить, что тест Тьюринга сумел породить весьма обширное поле энергичных исследований под общим названием «искусственный интеллект». Однако, хотя на сегодняшний день компьютеры поразительно эффективно решают сложнейшие задачи, в целом достаточно ясно, что прогноз Тьюринга не оправдался.

Мыслить подобно человеку компьютеры еще не научились, так что по-прежнему существует множество несложных задач, в решении которых даже 5-летний ребенок превосходит  наиболее мощные вычислительные машины. Тем не менее в реальной жизни уже очень остро возникают ситуации, когда бывает необходимо быстро и эффективно отличать человеческий интеллект от машинного.

Читать далее Схватка интеллектов

Мета-организм и его здоровье

(Июль 2016)

Эта концепция пока еще не получила у человечества ни сколь-нибудь целостного осмысления, ни даже общепринятого собственного наименования. Одни называют это Холосом, другие – «всемирным роботом». Третьи предпочитают какие-то еще словесные конструкции, подчеркивающие те или иные особенности глобального, но пока что лишь нарождающегося инфотехнологического феномена.

1-IoT

Соответственно, и рассказывать об этом многогранном явлении можно тоже очень по-разному. В частности, с точки зрения компьютерной (не)безопасности системы. О рисках и уязвимостях такой незримой системы, которая начинается от базовых бытовых вещей, окружающих людей в повседневной жизни, а заканчивается на уровне единой всемирной сети, уже охватившей планету в целом…

В начале лета этого года Федеральная торговая комиссия США, ведающая в государстве вопросами регулирования коммерции, направила Министерству торговли особый меморандум, посвященный большим проблемам с безопасностью и защитой информации в системах Internet of Things, то есть в «Интернете Вещей» (IoT или ИнВ). Под этим названием, как известно, принято понимать широчайший спектр всевозможных электронных устройств, подсоединенных к глобальной сети ради расширения их общей функциональности и наращивания искусственного интеллекта.

И коль скоро тема угроз и уязвимостей в ИнВ считается ныне весьма горячей, попутно вышло так, что меморандум государственно-коммерческих структур США оказался обрамлен выступлениями двух высокопоставленных руководителей американских разведслужб. Которые, что очевидно из речей боссов, тоже активно занимаются изучением перспектив на этом направлении, причем с нарастающим интересом.

Читать далее Мета-организм и его здоровье

Будущее уже здесь

(Июль 2016)

Сегодня – это не только вчерашнее завтра, но и завтрашнее вчера. Иначе говоря, уже сегодня мы можем замечать и обдумывать вещи, которые станут важными чертами жизни или проблемами в будущем.

# #

В двадцатых числах июня в США прошел крупный медицинский и научно-технический симпозиум, участниками которого были ведущие исследователи общенационального Проекта Человеческий Коннектом или кратко HCP (Human Connectome Project). Название это вполне отчетливо напоминает схожую и куда более известную гранд-инициативу под названием «Проект человеческий геном», что, конечно же, не случайность.

1-brainside

Если участники «Генома» успешно и с небывалой прежде тщательностью расшифровывают человеческую ДНК, то проект «Коннектом» занят столь же подробным картографированием мозга человека. Данные, получаемые с помощью передовой аппаратуры магнитно-резонансного сканирования, в высочайшем разрешении отображают структурные и функциональные взаимосвязи между нейронами. Ну а постижение этих картин помогает понять не только то, как мозг делает нас людьми, но и то, из-за чего мы болеем.

Читать далее Будущее уже здесь

«Он занимался хакингом реальности»

(Июнь 2016)

К столетию Клода Шеннона. О великом ученом и инженере, открывшем для человечества эпоху цифровых инфотехнологий. А также об обстоятельствах, скрывающих реальный масштаб шеннонова вклада в науку.

0-Shannon-monument

Всех читателей данного текста полезно, наверное, заранее предупредить. То, что здесь будет рассказано – это в целом довольно странная, местами очень причудливая и отчасти даже мистическая история из мира науки и высоких технологий. История очевидно закручена вокруг человека по имени Клод Шеннон, однако далеко не во всех из описываемых событий он принимал личное участие.

Соответственно, и начать этот странный рассказ имеет смысл с воспоминаний молодой женщины по имени Эмбер Кейс, абсолютно никакого отношения к Шеннону, на первый взгляд, не имеющей. Но это, впрочем, смотря какую выбрать перспективу для обзора…

Воспоминания относятся к раннему детству девочки – из самого начала 1990-х, когда Эмбер было всего 4 или 5 лет. Ребенок был явно неординарный, внимательные родители заметили это быстро, так что по вечерам папа читал дочке перед сном не обычные в таком возрасте сказки, а разные истории из совсем не детской научно-популярной книжки «Эволюция сознания».

И вот как-то однажды за подобным чтением, когда потребовалось наглядно пояснить интересную идею, папа взял лист бумаги и нарисовал на нем две точки, А и Б. И спросил у дочери, что будет кратчайшим расстоянием от точки А до точки Б. Прямая линия, сказала Эмбер. Да, согласился отец, но есть и еще более короткое расстояние – и он сложил лист бумаги так, что теперь две точки стали соприкасаться…

Так я впервые узнала про идею «кротовых нор» в пространстве, – рассказывает Эмбер Кейс. Идея про сжатое время и сжатое пространство настолько глубоко поразила маленькую девочку, что с той поры она стала думать об этом чуть ли не каждую ночь. И ныне, уже давно став взрослой, закончив университет и обретя среди профессионалов широкую известность в качестве одного из лидеров «цифровой философии», Кейс по-прежнему часто думает о межпространственных туннелях. Но уже в несколько ином, антропологическом контексте:

«Когда вы погружаетесь действительно глубоко в антропологию, то обнаруживаете, что изучается тут компрессия пространства и времени. Инфотехнологии – вот что ныне сжимает расстояние между точками А и Б, то есть расстояние между людьми»…

Самый неизвестный из великих

Случилось так, что в тот же период, когда маленькая девочка Эмбер впервые открыла для себя одну из важнейших идей, сформировавших ее мировоззрение, в научном сообществе отмечали большой – 75-летний – юбилей Клода Шеннона. Главным событием в ознаменование этого юбилея стало первое издание книги с собранием сочинений великого математика и инженера, давшего начало эпохе цифровых инфотехнологий.

Ну а самый главный текст в этом сборнике, знаменитый шедевр ученого под названием «Математическая теория связи», публикация которого в 1948 году ознаменовала рождение совершенно новой научной области под названием «теория информации», в первых же строках начинался с такой фразы:

«Фундаментальная проблема связи заключается в том, чтобы в одной точке воспроизвести то сообщение, которое было выбрано для передачи в другой точке»…

Ни в 1948 году, естественно, ни в начале 1990-х, ни даже сегодня, еще четверть века спустя, в науке как не было, так и все еще нет действительно полного понимания того, к сколь глубоким концепциям и тайнам в устройстве природы, материи и сознания приоткрыла двери работа Шеннона «Математическая теория связи». А также и многие другие из шенноновых работ, проделанных позднее и по сию пору считающихся легкомысленными развлечениями эксцентричного ученого-инженера.

Читать далее «Он занимался хакингом реальности»

Эволюция железа

(Ноябрь 2002)

Среди последних новостей компьютерных технологий промелькнул недавно один любопытный сюжет: об эволюционирующей электронной схеме, которая совершенно случайно и независимо от воли изучавших ее поведение инженеров самостоятельно переизобрела конструкцию радиоприемника.

motherboard

Дело происходило в английском университете Сассекса (г. Брайтон), где последние лет десять занимаются проблемами эволюции самоорганизующейся электроники. Ну а нынешняя история дает удобный повод поближе познакомиться с этой областью компьютерных исследований.

Ближе к природе

В научных и инженерных кругах примерно с 1960-х годов циркулирует идея о том, что электроника могла бы эволюционировать к более совершенным компьютерам или роботам – подобно тому, как в природе эволюционное развитие сравнительно простых организмов привело к появлению человека и других сложных биологических систем.

Биология вообще служит для компьютерщиков источником вдохновения. Опираясь на модели мозга, к примеру, они разработали нейронные сети, особо хорошо проявившие себя в задачах распознавания образов — от рукописного текста до отпечатков пальцев.

На основе принципов генетики были разработаны способы для скрещивания и мутации программ, что позволило программам-потомкам конкурировать друг с другом в создании “особей, наиболее приспособленных” для решения некоей конкретной задачи. Такого рода генетические алгоритмы успешно используются при эволюционной разработке программ во множестве самых разнообразных областей, будь то создание произведений искусства или выбор наиболее перспективных акций на фондовой бирже.

Однако, в начале 1990-х годов у молодого англичанина Адриана Томпсона (Adrian Thompson), в ту пору аспиранта и сотрудника Центра вычислительной науки и роботехники Сассекского университета, сложилось убеждение, что таким технологиям не хватает одного весьма важного качества. Все они были слишком жестко ограничены правилами, изначально предложенными конструкторами чипов и разработчиками программного обеспечения.

Читать далее Эволюция железа