Рубрика: Искусственный интеллект

Posted on

Письмо в прошлое из будущего сегодня

( Январь 2023, idb@kiwiarxiv )

Пока готовится большой материал об устройстве сознания человека, атома и вселенной – то есть единого сознания в природе – будет к месту опубликовать небольшой текст об озадачивающих успехах Искусственного Интеллекта, созданного людьми.

Скотт Ааронсон, как выдающийся компьютерный учёный и интересно мыслящий человек, уже становился героем публикуемых тут сюжетов. Ныне же, в связи с праздником Рождества и сложными чувствами учёного от работы в компании OpenAI, построившей самую мощную на планете систему ИИ, появилось необычное письмо Ааронсона, адресованное в прошлое.

Поскольку текст небольшой, имеет смысл привести здесь его перевод полностью.

Краткое письмо самому себе, 11-летнему

Дорогой Скотт,

Это написал себе ты. Из будущего через 30 лет, в канун Рождества 2022 года. Твой Рождественский Призрак будущего.

Чтобы побыстрее перейти к сути: в конечном итоге ты станешь профессором, который работает над квантовыми вычислениями. Квантовые вычисления – это…

Скажем так, ты ведь читал в популярных книжках о физике всякие странные вещи про то, как частица проходит все возможные пути сразу, чтобы попасть из точки А в точку Б, но только ты никогда на самом деле не видишь, как она это делает, потому что как только ты за ней следишь, то она проходит лишь одним путём?

Так вот, оказывается, что в этом есть нечто гигантски важное, даже несмотря на то, что популярные книжки полностью искажают тут объяснение. Это связано с комплексными числами. Квантовый компьютер – это такой новый тип компьютера, который люди пытаются построить, опираясь на подлинные основы этой истории.

Как бы там ни было, штука потрясающая, но ты в любом случае узнаешь про это уже через несколько лет. Я же пишу не о том.

Я пишу из такого будущего, которое… с чего бы начать? Читать «Письмо в прошлое из будущего сегодня» далее

Posted on

Искусственный интеллект и страх перемен

( Январь 2020, idb )

Обычно принято считать, будто системы Искусственного Интеллекта – это самый что ни на есть авангард научно-технического прогресса человечества. Но можно, однако, увидеть здесь и нечто в корне иное…

На сайте «Лос-Анджелесского книжного обозрения», весьма разнообразно и содержательно отражающего интеллектуальную жизнь в США, имеется раздел тематических блогов BLARB. А одна из постоянных рубрик-колонок этого раздела – под выразительным названием PROVOCATIONS – и по общему духу своему «провокационному», и по целому ряду более конкретных частных признаков (типа ключевых слов) чрезвычайно близка, как выяснилось, сайту kiwibyrd.org.

Иначе говоря, практически все сквозные темы этого американского блога – вроде цензуры и слежки в общедоступном интернете, пост-правды и прочих форм обмана, вновь разгорающихся углей национализма и так далее – не только регулярно освещаются в текстах киви-архива, но и подаются обычно с той же самой позиции «интеллектуальной провокации». То есть в преднамеренно остраненном виде, заставляющем увидеть привычные, казалось бы, вещи с иной, зачастую неожиданной стороны.

Начиная с первых дней нынешнего года сквозной темой всех публикаций раздела Provocations выбраны риски и угрозы для человечества со стороны AI, то есть систем Искусственного Интеллекта (ИИ). Ну а самой популярной-читаемой среди всех блог-записей на сайте BLARB в целом стабильно остается самая первая из статей нового AI-цикла. Написанная известным футурологом-писателем-фантастом Кори Доктороу и озаглавленная подобающе-провокационным образом: «Наши неофобные, консервативные ИИ-повелители желают, чтобы все оставалось как прежде» .

О публицистике, фантастике и в целом о неординарных взглядах этого интересного автора на прогресс и наше будущее в материалах киви-архива рассказывалось уже неоднократно (см. ссылки в конце). А потому вполне естественно обратить внимание и на новую статью Доктороу…

Читать «Искусственный интеллект и страх перемен» далее

Posted on

Искусственный интеллект в мире животных

(Март 2019, idb )

Системы Искусственного Интеллекта (ИИ), как известно, за последние годы совершили очень внушительный рывок, продемонстрировав сверхчеловеческие способности в довольно широком диапазоне разных задач. Люди уже не могут считаться лучшими в мире игроками не только в шахматы, но и в покер или в го, проигрывают ИИ во многих компьютерных играх вроде StarCraft, в делах вождения автомобиля, катера или самолета, в проблемах диагностики и лечения некоторых заболеваний. Список побед ИИ прирастает постоянно.

Однако даже самые сложные системы ИИ пока что не способны состязаться не только с людьми, но и с обычными животными в делах адаптации к неожиданным переменам в окружающей обстановке. Как определить, насколько умны самые лучшие из нынешних систем искусственного интеллекта при их сравнении с представителями мира животных? Могут ли самые продвинутые агенты ИИ быть столь же умны, как мыши, скажем? Или как вороны? Или как шимпанзе?

Набор из нескольких десятков тестов, уже проведенных ранее с животными, позволит получить первые ответы на подобные вопросы. Организаторы состязаний на основе таких тестов ставят перед собой цель выявить самые лучшие из нынешних подходов ИИ в делах адаптации к обстановке, сопоставляя их с результатами исследований животного царства. Итоги такой «олимпиады» покажут, готовы ли великие достижения систем ИИ на равных состязаться с великими достижениями биологической эволюции.

Проект «Олимпиада Животные-ИИ», который начинается в июне нынешнего года, это результат совместной партнерской работы между Кембриджским университетом, точнее, его Ливерхьюмским Центром будущего интеллекта , и базирующимся в Праге исследовательским институтом GoodAI , то есть «Хороший-ИИ». Фактически, это новый способ оценивать прогресс ИИ в направлении того, что принято именовать общим или сильным искусственным интеллектом.

Читать «Искусственный интеллект в мире животных» далее

Posted on

Думать самим или разумом ИИ?

(Октябрь 2017)

Одни умные люди уверены, что наша цивилизация выходит на крайне опасный этап развития, грозящий уничтожить человечество как вид. Их отнюдь не глупые оппоненты-скептики настаивают, что угрозы эти измышляются фантазерами. Кто-то из мудрецов явно неправ…

«Жизнь 3.0» и «Карта маршрутов»

Случилось так, что два известных в своих областях человека независимо и практически одновременно опубликовали две исследовательские работы, дающие диаметрально противоположные, по сути, взгляды на одну и ту же большую проблему. Собственно проблему можно сформулировать словами «Искусственный Интеллект как угроза существованию человечества», а суть принципиально разных к ней подходов у данных авторов сводится к следующему.

Макс Тегмарк наиболее известен в мире как физик-теоретик. Но кроме того, он активно занимается общественной деятельностью и несколько лет назад стал сооснователем Института «Будущее Жизни» в Кембридже, штат Массачусетс, США (девиз института: «Технологии как никогда раньше дают жизни потенциал к процветанию… или же к самоуничтожению. Так давайте сделаем так, чтобы разница зависела от нас!»).

Теперь же, в своей новой книге «Жизнь 3.0: быть Человеком в эпоху Искусственного Интеллекта» (Max Tegmark, «Life 3.0: Being Human in the Age of Artificial Intelligence», Knopf: 2017), Тегмарк подробно анализирует одну из наиболее существенных особенностей в развитии новейших технологий – стремительную эволюцию систем ИИ. Главным итогом анализов ученого здесь становится вывод, что очевидные риски данного процесса уже сейчас требуют от нас серьезнейших размышлений и очень аккуратных действий. Если, конечно, у людей имеется понимание, что наше «космическое предназначение» совсем не в том, чтобы по ходу прогресса оказаться выброшенными на обочину истории…

Работа вторая – оценивающая «угрозы ИИ» с абсолютно иных позиций – это аналитическое эссе от профессора-правоведа Райана Кало, опубликованное под названием «Политика в области Искусственного Интеллекта: карта маршрутов». За последние годы Кало, как профессиональный юрист, активно занимающийся проблемами на стыке инфотехнологий и права, заслужил в США авторитет «ведущего эксперта по законам роботехники».

Существенно подкрепили этот статус профессора такие, в частности, факты. В период президентства Обамы именно Кало устроил и провел в Белом доме первый семинар по политике в области ИИ. После чего он же организовал аналогичные семинары для Национальной академии наук и для NSF, Национального научного фонда США, раздающего исследователям гранты, а затем – ещё и для спецслужбы DHS, то есть Департамента безопасности отечества.

И вот теперь, в свежем эссе про «Карту маршрутов ИИ», Райан Кало развернуто подытоживает свои исследования и популярно объясняет, о чем в действительности «следует беспокоиться политикам в отношении искусственного интеллекта». В частности, здесь всячески раскритикованы аргументы таких пророков катастроф и несчастий, как Илон Маск и Ник Бострём, Стив Хокинг и уже упомянутый Макс Тегмарк.
Реальное же беспокойство у тех, кто принимает решения, должно вызывать, по мнению Кало, недостаточное финансирование наиболее перспективных ИИ-проектов. Недостаточное по той причине, что необходимые средства и ценные человеческие мозги интенсивно отвлекаются на предотвращение несуществующих угроз, придумываемых фантазерами…

Читать «Думать самим или разумом ИИ?» далее
Posted on

АА+ИИ… и не нужно никаких паролей

(Июнь 2017)

То, что связка логин+пароль это слабое и неудачное решение для защиты доступа, хорошо понимали даже полвека назад, на заре компьютерной эпохи. Но вот что применять взамен – постигать начали совсем недавно…

Между прошлым и будущим

Случилось так, что в мае 2017 произошла весьма символичная встреча инфотехнологий прошлого и будущего – в той особенной области человеческой деятельности, что обычно принято именовать «контроль доступа и защита информации».

Если говорить о прошлом – и настоящем – этого дела, то в первых числах мая компьютерные пользователи всего мира отмечали довольно необычный праздник (о котором большинство людей, возможно, даже не в курсе). Международный праздник называется «День паролей» или World Password Day, отмечается 4 мая, а учрежден ради пропаганды грамотного использования этой важной меры безопасности среди широких народных масс.

Что же касается будущего, то в последних числах мая СМИ впервые сообщили о том, что корпорация Apple активно работает ныне над весьма необычным новым чипом – носящем название Neuro Engine или «нейродвижок» в более-менее адекватном переводе на русский. Грамотные обозреватели рынка в общем-то в курсе, что термин «нейро-» применительно к процессору означает аппаратное воплощение идеи нейросетей для систем искусственного интеллекта.

Однако сама компания Apple, знаменитая своей скрытностью, пока что категорически не желает ни комментировать слухи о новом чипе, ни – тем более – раскрывать цели его создания. Иначе говоря – пока это как бы загадка и «коммерческая тайна» фирмы.

Но с другой стороны, если хорошо представлять себе ту непростую ситуацию и проблемы, что давно характерны для роли паролей в сфере инфозащиты, то нынешняя инициатива Apple выглядит не только не загадочной, но и более того, совершенно естественной и своевременной. Если знать, конечно, каковы на сегодня важнейшие идеи и тенденции относительно ближайшего будущего в этой горячей области.

И поскольку просто так – в лоб – раскрывать «великую тайну» о новой разработке корпорации-гиганта было бы и неинтересно, и не особо убедительно, имеет смысл рассказать историю иначе. О том, что за беды и проблемы с этими паролями были всегда, какими способами их пытаются решать сегодня, почему это тоже не лучшее решение, и как, наконец, будет выглядеть действительно сильная защита доступа в нашем недалеком грядущем.

При такой подаче материала для понимания новой инициативы Apple уже не понадобится ни домыслов, ни дополнительной информации от инсайдеров. Но дабы картина эта выглядела действительно внятной и убедительной, прежде желательно иметь четкое представление о том, что же сегодня понимают под «сильными паролями». И почему эту силу так трудно обеспечить.

Читать «АА+ИИ… и не нужно никаких паролей» далее

Posted on

Схватка интеллектов

(Февраль 2003)

Достижим с помощью компьютера искусственный разум или нет — точно науке не известно. Однако создаваемые ныне программистами системы искусственного интеллекта встречаются в реальной жизни все чаще и чаще, причем в разумности своей они порой неотличимы от человеческого поведения.

4_games

Что нам мешает — то нам поможет

Великий английский математик Алан Тьюринг не пользовался термином «искусственный интеллект» (ИИ), поскольку при его жизни такого словосочетания в нарождавшемся компьютерном лексиконе еще не было. Но именно Тьюринг в своей статье 1950 года «Компьютерное машинное оборудование и интеллект» [1] сформулировал знаменитый, впоследствии получивший его имя тест на разумное поведение компьютера.

Тьюринг описал некую воображаемую игру, в которой человек-дознаватель попеременно общается по проводам с человеком и компьютером, находящимися в другом помещении. Задача дознавателя в том, чтобы с помощью серии вопросов определить, кто из его собеседников человек, а кто — машина.

По предположению Тьюринга, машину можно называть мыслящей, если человек-дознаватель не способен отличить ее ответы от ответов другого человека. Тогда же Тьюрингом был сделан и прогноз, что к 2000 году при пятиминутном тест-опросе компьютеры смогут вводить в заблуждение дознавателя по меньшей мере в 30% случаев.

С тех пор прошло полвека и можно говорить, что тест Тьюринга сумел породить весьма обширное поле энергичных исследований под общим названием «искусственный интеллект». Однако, хотя на сегодняшний день компьютеры поразительно эффективно решают сложнейшие задачи, в целом достаточно ясно, что прогноз Тьюринга не оправдался.

Мыслить подобно человеку компьютеры еще не научились, так что по-прежнему существует множество несложных задач, в решении которых даже 5-летний ребенок превосходит  наиболее мощные вычислительные машины. Тем не менее в реальной жизни уже очень остро возникают ситуации, когда бывает необходимо быстро и эффективно отличать человеческий интеллект от машинного.

Читать «Схватка интеллектов» далее

Posted on

Мета-организм и его здоровье

(Июль 2016)

Эта концепция пока еще не получила у человечества ни сколь-нибудь целостного осмысления, ни даже общепринятого собственного наименования. Одни называют это Холосом, другие – «всемирным роботом». Третьи предпочитают какие-то еще словесные конструкции, подчеркивающие те или иные особенности глобального, но пока что лишь нарождающегося инфотехнологического феномена.

1-IoT

Соответственно, и рассказывать об этом многогранном явлении можно тоже очень по-разному. В частности, с точки зрения компьютерной (не)безопасности системы. О рисках и уязвимостях такой незримой системы, которая начинается от базовых бытовых вещей, окружающих людей в повседневной жизни, а заканчивается на уровне единой всемирной сети, уже охватившей планету в целом…

В начале лета этого года Федеральная торговая комиссия США, ведающая в государстве вопросами регулирования коммерции, направила Министерству торговли особый меморандум, посвященный большим проблемам с безопасностью и защитой информации в системах Internet of Things, то есть в «Интернете Вещей» (IoT или ИнВ). Под этим названием, как известно, принято понимать широчайший спектр всевозможных электронных устройств, подсоединенных к глобальной сети ради расширения их общей функциональности и наращивания искусственного интеллекта.

И коль скоро тема угроз и уязвимостей в ИнВ считается ныне весьма горячей, попутно вышло так, что меморандум государственно-коммерческих структур США оказался обрамлен выступлениями двух высокопоставленных руководителей американских разведслужб. Которые, что очевидно из речей боссов, тоже активно занимаются изучением перспектив на этом направлении, причем с нарастающим интересом.

Читать «Мета-организм и его здоровье» далее

Posted on

Будущее уже здесь

(Июль 2016)

Сегодня – это не только вчерашнее завтра, но и завтрашнее вчера. Иначе говоря, уже сегодня мы можем замечать и обдумывать вещи, которые станут важными чертами жизни или проблемами в будущем.

# #

В двадцатых числах июня в США прошел крупный медицинский и научно-технический симпозиум, участниками которого были ведущие исследователи общенационального Проекта Человеческий Коннектом или кратко HCP (Human Connectome Project). Название это вполне отчетливо напоминает схожую и куда более известную гранд-инициативу под названием «Проект человеческий геном», что, конечно же, не случайность.

1-brainside

Если участники «Генома» успешно и с небывалой прежде тщательностью расшифровывают человеческую ДНК, то проект «Коннектом» занят столь же подробным картографированием мозга человека. Данные, получаемые с помощью передовой аппаратуры магнитно-резонансного сканирования, в высочайшем разрешении отображают структурные и функциональные взаимосвязи между нейронами. Ну а постижение этих картин помогает понять не только то, как мозг делает нас людьми, но и то, из-за чего мы болеем.

Читать «Будущее уже здесь» далее

Posted on

«Он занимался хакингом реальности»

(Июнь 2016)

К столетию Клода Шеннона. О великом ученом и инженере, открывшем для человечества эпоху цифровых инфотехнологий. А также об обстоятельствах, скрывающих реальный масштаб шеннонова вклада в науку.

0-Shannon-monument

Всех читателей данного текста полезно, наверное, заранее предупредить. То, что здесь будет рассказано – это в целом довольно странная, местами очень причудливая и отчасти даже мистическая история из мира науки и высоких технологий. История очевидно закручена вокруг человека по имени Клод Шеннон, однако далеко не во всех из описываемых событий он принимал личное участие.

Соответственно, и начать этот странный рассказ имеет смысл с воспоминаний молодой женщины по имени Эмбер Кейс, абсолютно никакого отношения к Шеннону, на первый взгляд, не имеющей. Но это, впрочем, смотря какую выбрать перспективу для обзора…

Воспоминания относятся к раннему детству девочки – из самого начала 1990-х, когда Эмбер было всего 4 или 5 лет. Ребенок был явно неординарный, внимательные родители заметили это быстро, так что по вечерам папа читал дочке перед сном не обычные в таком возрасте сказки, а разные истории из совсем не детской научно-популярной книжки «Эволюция сознания».

И вот как-то однажды за подобным чтением, когда потребовалось наглядно пояснить интересную идею, папа взял лист бумаги и нарисовал на нем две точки, А и Б. И спросил у дочери, что будет кратчайшим расстоянием от точки А до точки Б. Прямая линия, сказала Эмбер. Да, согласился отец, но есть и еще более короткое расстояние – и он сложил лист бумаги так, что теперь две точки стали соприкасаться…

Так я впервые узнала про идею «кротовых нор» в пространстве, – рассказывает Эмбер Кейс. Идея про сжатое время и сжатое пространство настолько глубоко поразила маленькую девочку, что с той поры она стала думать об этом чуть ли не каждую ночь. И ныне, уже давно став взрослой, закончив университет и обретя среди профессионалов широкую известность в качестве одного из лидеров «цифровой философии», Кейс по-прежнему часто думает о межпространственных туннелях. Но уже в несколько ином, антропологическом контексте:

«Когда вы погружаетесь действительно глубоко в антропологию, то обнаруживаете, что изучается тут компрессия пространства и времени. Инфотехнологии – вот что ныне сжимает расстояние между точками А и Б, то есть расстояние между людьми»…

Самый неизвестный из великих

Случилось так, что в тот же период, когда маленькая девочка Эмбер впервые открыла для себя одну из важнейших идей, сформировавших ее мировоззрение, в научном сообществе отмечали большой – 75-летний – юбилей Клода Шеннона. Главным событием в ознаменование этого юбилея стало первое издание книги с собранием сочинений великого математика и инженера, давшего начало эпохе цифровых инфотехнологий.

Ну а самый главный текст в этом сборнике, знаменитый шедевр ученого под названием «Математическая теория связи», публикация которого в 1948 году ознаменовала рождение совершенно новой научной области под названием «теория информации», в первых же строках начинался с такой фразы:

«Фундаментальная проблема связи заключается в том, чтобы в одной точке воспроизвести то сообщение, которое было выбрано для передачи в другой точке»…

Ни в 1948 году, естественно, ни в начале 1990-х, ни даже сегодня, еще четверть века спустя, в науке как не было, так и все еще нет действительно полного понимания того, к сколь глубоким концепциям и тайнам в устройстве природы, материи и сознания приоткрыла двери работа Шеннона «Математическая теория связи». А также и многие другие из шенноновых работ, проделанных позднее и по сию пору считающихся легкомысленными развлечениями эксцентричного ученого-инженера.

Читать ««Он занимался хакингом реальности»» далее

Posted on

Эволюция железа

(Ноябрь 2002)

Среди последних новостей компьютерных технологий промелькнул недавно один любопытный сюжет: об эволюционирующей электронной схеме, которая совершенно случайно и независимо от воли изучавших ее поведение инженеров самостоятельно переизобрела конструкцию радиоприемника.

motherboard

Дело происходило в английском университете Сассекса (г. Брайтон), где последние лет десять занимаются проблемами эволюции самоорганизующейся электроники. Ну а нынешняя история дает удобный повод поближе познакомиться с этой областью компьютерных исследований.

Ближе к природе

В научных и инженерных кругах примерно с 1960-х годов циркулирует идея о том, что электроника могла бы эволюционировать к более совершенным компьютерам или роботам – подобно тому, как в природе эволюционное развитие сравнительно простых организмов привело к появлению человека и других сложных биологических систем.

Биология вообще служит для компьютерщиков источником вдохновения. Опираясь на модели мозга, к примеру, они разработали нейронные сети, особо хорошо проявившие себя в задачах распознавания образов — от рукописного текста до отпечатков пальцев.

На основе принципов генетики были разработаны способы для скрещивания и мутации программ, что позволило программам-потомкам конкурировать друг с другом в создании “особей, наиболее приспособленных” для решения некоей конкретной задачи. Такого рода генетические алгоритмы успешно используются при эволюционной разработке программ во множестве самых разнообразных областей, будь то создание произведений искусства или выбор наиболее перспективных акций на фондовой бирже.

Однако, в начале 1990-х годов у молодого англичанина Адриана Томпсона (Adrian Thompson), в ту пору аспиранта и сотрудника Центра вычислительной науки и роботехники Сассекского университета, сложилось убеждение, что таким технологиям не хватает одного весьма важного качества. Все они были слишком жестко ограничены правилами, изначально предложенными конструкторами чипов и разработчиками программного обеспечения.

Читать «Эволюция железа» далее