Искусственный интеллект и страх перемен

( Январь 2020, idb )

Обычно принято считать, будто системы Искусственного Интеллекта – это самый что ни на есть авангард научно-технического прогресса человечества. Но можно, однако, увидеть здесь и нечто в корне иное…

На сайте «Лос-Анджелесского книжного обозрения», весьма разнообразно и содержательно отражающего интеллектуальную жизнь в США, имеется раздел тематических блогов BLARB. А одна из постоянных рубрик-колонок этого раздела – под выразительным названием PROVOCATIONS – и по общему духу своему «провокационному», и по целому ряду более конкретных частных признаков (типа ключевых слов) чрезвычайно близка, как выяснилось, сайту kiwibyrd.org.

Иначе говоря, практически все сквозные темы этого американского блога – вроде цензуры и слежки в общедоступном интернете, пост-правды и прочих форм обмана, вновь разгорающихся углей национализма и так далее – не только регулярно освещаются в текстах киви-архива, но и подаются обычно с той же самой позиции «интеллектуальной провокации». То есть в преднамеренно остраненном виде, заставляющем увидеть привычные, казалось бы, вещи с иной, зачастую неожиданной стороны.

Начиная с первых дней нынешнего года сквозной темой всех публикаций раздела Provocations выбраны риски и угрозы для человечества со стороны AI, то есть систем Искусственного Интеллекта (ИИ). Ну а самой популярной-читаемой среди всех блог-записей на сайте BLARB в целом стабильно остается самая первая из статей нового AI-цикла. Написанная известным футурологом-писателем-фантастом Кори Доктороу и озаглавленная подобающе-провокационным образом: «Наши неофобные, консервативные ИИ-повелители желают, чтобы все оставалось как прежде» .

О публицистике, фантастике и в целом о неординарных взглядах этого интересного автора на прогресс и наше будущее в материалах киви-архива рассказывалось уже неоднократно (см. ссылки в конце). А потому вполне естественно обратить внимание и на новую статью Доктороу…

Читать «Искусственный интеллект и страх перемен» далее

Как в кино

(Июль 2009)

11sept01

На протяжении ряда последних лет Брюс Шнайер, часто цитируемый околокомпьютерной прессой гуру по безопасности, в международный день дураков 1 апреля проводит на своем сайте открытые конкурсы на лучший «киношный заговор».

Одна из целей этого поучительного развлечения — спародировать методы некоторых спецслужб, которые вместо «скучной» работы с реальными рисками то и дело изобретают мифические угрозы, зачастую весьма экзотического толка, а затем тратят на их предотвращение кучу собственных сил и средств, не говоря о нервной энергии простых граждан.

С другой стороны, все знают (да и Шнайер сам с готовностью признает), что в реальной жизни нередко случаются истории столь колоритные, что любая из них отлично впишется в кинокартины с остроприключенческим или полуфантастическим сюжетом. И дабы не ходить далеко за подтверждающими это примерами, достаточно привести три события из июльской ленты новостей (2009 года).

Читать «Как в кино» далее

«Шелковый путь» в контексте

(Октябрь 2013)

Тотальное уничтожение Silk Road – крупнейшего в интернете подпольного рынка наркотических веществ – стало, несомненно, одним из главных на сегодня событий в цепи решительных мероприятий властей под единым названием «Война с наркотиками».

Технические детали этой операции весьма любопытны с точки зрения защиты информации. Но еще более интересным, однако, выглядит общий контекст происходящего.

crime-scene

Читать ««Шелковый путь» в контексте» далее

Правда и вымысел

(Июнь 2013)

Необычный монумент Kryptos, украшающий двор штаб-квартиры ЦРУ в Лэнгли, за (без малого) четверть века успел стать своеобразным олицетворением сути шпионской профессии.

0.nsarchiv

В первых числах июня 2013 на известном американском сайте «Архивы национальной безопасности» для всеобщего свободного доступа выложен очередной весьма любопытный комплекс исторических документов.

Данный сайт, National Security Archive, не имеет отношения к официальным структурам правительства США и является коллективным детищем ученых-исследователей Университета Джорджа Вашингтона, но прежде всего – Джефри Ричелсона (Jeffrey T. Richelson), одного из главных в стране экспертов по истории американских разведслужб.

Вот уже несколько десятилетий Ричелсон и его единомышленники на основе FOIA, закона о праве граждан на доступ к информации, методично добывают из секретных архивов США – а затем открыто публикуют – множество документов, проливающих дополнительный свет на известные исторические события, так или иначе связанные с проблемами национальной безопасности.

Опубликованный ныне комплекс документов – это два десятка статей, в разные годы – с середины 1990-х по 2011 – появлявшихся на страницах закрытого (грифом секретности) журнала ЦРУ «Исследования по разведке» или Studies in Intelligence.

Как показывает опыт изучения данных материалов, никаких великих откровений там, конечно же, не обнаруживается. Во-первых, гриф секретности у документов маловат, а во-вторых, даже то, что хоть как-то могло бы потянуть на сенсацию, тщательно вымарано цензорами перед публикацией.

Тем не менее, перекрестное сопоставление всплывающих попутно малоизвестных фактов, плюс отталкивающиеся от них розыски дополнительной информации, позволяют выходить на весьма удивительные и хитро заплетенные истории, в деталях неведомые практически никому.

Вот как, скажем, выглядит одна из таких историй, раскопанная в связи с нынешней публикацией сайта «National Security Archive».
Читать «Правда и вымысел» далее

Книги: Так что же сказала соня?

(Май 2005)

Весьма и весьма необычная книга вышла из печати в США.

Dormouse

Полное ее название звучит так: «Что сказала соня… Как контркультура 60-х годов сформировала индустрию персональных компьютеров» («What the Dormouse Said… How the 60s Counterculture Shaped the Personal Computer Industry», by John Markoff, Viking, 2005).

Автор книги Джон Маркоф — ведущий обозреватель газеты New York Times по вопросам технологий и (со-)автор целого ряда заметных «околокомпьютерных» книг о киберпанке, хакерах вообще и Кевине Митнике в частности.

Подобного рода книг в разных издательствах вышло уже немало, однако то, что написал  Маркоф на этот раз, аналогов, похоже, пока не имеет.

Эпиграфом к его новой работе легко могло бы стать широкоизвестное в компьютерном мире изречение: «Два наиболее знаменитых продукта Университета Беркли — это ЛСД и Юникс. Не думаю, что это случайное совпадение»…

Книга Маркофа — первое в своем роде подробное исследование того, как уникальное слияние необычных политических и культурных движений в молодежной среде 1960-х годов на Западном побережье США дало мощный толчок революционным компьютерным технологиям и формированию Кремниевой долины.

Все внимание автора сфокусировано на Калифорнии периода с 1962 по 1975 гг., где в ту пору волею судьбы произошел мощнейший сплав индустрии высоких технологий, политического радикализма на фоне антивоенных протестов и движения хиппи, рок-музыки и легкодоступных наркотиков вроде ЛСД и марихуаны.

Документальная книга Маркофа построена на основе многочисленных интервью с главными участниками происходившего и включает в себя истории весьма известных в мире высоких технологий людей.

Это и Дуг Энгельбарт (Doug Englebart), изобретатель компьютерной мышки и других ключевых элементов интерфейса современного ПК, и сооснователь Xerox PARC Роберт Тэйлор (Robert Taylor), и криптограф Уитфилд Диффи (Whit Diffie), и основатель Группы передовых технологий в Apple Computer Ларри Теслер (Larry Tesler).

Вспоминая о тех необычных временах, собеседники журналиста рассказывают и истории крайне неожиданные. Например, нынешний царь и бог Apple Computer Стив Джобс признается, что принятие накркотика-галлюциногена ЛСД было одной из наиболее важных вещей, когда-либо сделанных в его жизни, и те, кто никогда не «путешествовал на кислоте», не смогут полностью его понять.

Другой герой, Дуг Энгельбарт, хотя и был представителем более старшего, нежели Джобс, поколения, но был окружен молодежью и принадлежал к небольшой группе компьютерных исследователей, которая также экспериментировала с ЛСД чтобы проверить, смогут ли они расширить свои творческие способности приемом психоделических наркотиков…

Впрочем, книга, конечно, совершенно не о том, что все главные калифорнийские компьютерщики были наркоманами. Читать «Книги: Так что же сказала соня?» далее

Дежавю, или хождение по кругу

(Сентябрь 2011)

В новостях в который раз всплыли две специфические темы: опять про неискоренимый вирус в BIOS и опять про авиатеракт Локерби. Абсолютно никакой связи, казалось бы, между темами нет. Но это как посмотреть…

rootkit-blog

Новость # 1

Новость первая – про китайский руткит Mebromi, который в очередной раз напомнил всем о часто забываемой опасности вирусов в BIOS, то есть в базовой системе ввода / вывода компьютера.

Забывчивость на данный счет принято объяснять тем, что BIOS размещается в программно-аппаратной прошивке специального чипа на системной плате, а для перепрограммирования таких чипов не существует универсального средства. Иначе говоря, для множества компьютеров на рынке существует не только великое множество несовместимых файлов-прошивок, но и куча разных программ для их записи во флеш-память чипа BIOS.

А это значит, по идее, что злоумышленникам и вирусописателям просто нет смысла возиться с проникновением в столь неудобную для инфицирования подсистему. Но это в теории.

На практике же китайская антивирусная фирма Qihoo 360 недавно обнаружила гуляющий по компьютерам вредоносный код, который в качестве главного места базирования использует BIOS компьютера. Там, в силу перечисленных выше технических причин, он остается вне досягаемости для общераспространенных антивирусных программ-сканеров. И при этом вирус, получивший от китайских исследователей название Mebromi, способен проникать в BIOS великого множества компьютеров самых разных фирм и моделей. Читать «Дежавю, или хождение по кругу» далее

История города Глупова

(Ноябрь 2012)

Опыты нашего государства по быстрому и внесудебному прикрытию популярных сайтов типа Луркоморье, Либрусек или Рутрекер – дело как бы совсем новое. И может оттого бездарно бестолковое. Но если обратиться к творчеству классика русской сатиры, Михал Евграфыча Салтыкова-Щедрина (МЕСЩ, 1826 – 1889), то приходится констатировать, что в этой державе – исключая периоды кровавой резни – по-другому, похоже, просто не бывает.

banner

«Российская власть должна держать свой народ в состоянии постоянного изумления» (МЕСЩ)

Когда стало известно, что с 1 ноября (2012) в рамках новой редакции закона «О защите детей от информации, причиняющей вред их здоровью и развитию» в России начинает работать чудище под устрашающим названием «Единый реестр доменных имен, указателей страниц сайтов в сети и сетевых адресов, позволяющих идентифицировать сайты, содержащие информацию, распространение которой в Российской Федерации запрещено», то никто, наверное, не удивился.

Власть обещала, власть сделала.

Но вот как только эта «машина защиты детей» заработала и пошли первые известия  о подпавших под блокирование сайтах, то тут сразу же настало время изумляться.

Ибо самую главную опасность для здоровья и развития подрастающего поколения, по мнению российских властей, представляют, оказывается, популярнейшие в народе инфоресурсы, наполняемые силами самих пользователей сети – типа грубовато-сатирической «энциклопедии современной жизни» Луркоморье, главного русскязычного торрент-трекера RuTracker и огромной сетевой библиотеки Либрусек.

Иначе говоря, IP-адреса данных сайтов одними из первых попали в государственный «черный список», а миллионы посетителей этих веб-площадок, соответственно, получили ощутимые проблемы с доступом к любимым, удобным или просто очень полезным инфоресурсам.

Ну и конечно же, в лучших традициях бюрократической системы, поначалу ни владельцы, ни тем более пользователи «запрещенных» сайтов даже понятия не имели, что именно стало причиной репрессий. Читать «История города Глупова» далее

За что, собственно, боремся?

(Впервые опубликовано — март 2007)

cheapdrugs

Весьма недешевые работы по исследованию и развитию медицинских биотехнологий сегодня немыслимы без серьезной финансовой поддержки со стороны большого бизнеса и/или государства. Однако интересы здравоохранения и околомедицинской экономики — это далеко не одно и то же.

Главная задача системы охраны здоровья, по крайней мере, номинально, — чтобы у людей было все в порядке с телом и психикой, чтобы они как можно меньше болели и воздерживались от употребления вредных для организма субстанций.

Для любого бизнеса, с другой стороны, самое главное — максимальная прибыль. Поэтому даже из самых общих и абстрактных соображений понятно, что для процветания фармацевтической индустрии нет ничего более важного, чем повсеместная зависимость людей от разнообразных болезней. Ибо чем эти болезни страшнее и труднее излечимы, тем выше, соответственно, прибыли от лекарств и медобслуживания.

Что же касается государства и его непростых отношений с разнообразными наркотическими веществами, то здесь все сводится к стремлению жестко контролировать крайне сомнительное разделение препаратов на «запрещенные» и «разрешенные» — опять-таки с ощутимыми социально-экономическими выгодами для государства и, в частности, для людей, это государство представляющих.

Затронутые противоречия между задачами здравоохранения и целями бизнеса/государства — это весьма серьезная проблема общества, наглядно проиллюстрировать которую помогут два конкретных примера из происходящих ныне в мире событий.

Читать «За что, собственно, боремся?» далее