+++
«Привыкай к разочарованию».
—Ужасный Пират Робертс
—Ужасный Пират Робертс
Во-первых, PSA: Да, Freeze-Frame Revolution, очевидно, дошла до финального этапа в Кэмпбелл. Учитывая ее соседство с девятью другими достойными финалистами, я не затаиваю дыхание. Реалистически, я ожидал, что FFR не выиграет Кэмпбелл, так же, как за день до того не победила в Локусе. С другой стороны, она уже получила награду Nowa Fantastyka в номинации «Лучший зарубежный роман» в Польше, о каковой чести мои польские издатели, как ни странно, пока не сообщили мне (я узнал об этом только во время эго-серфинга). Мне сказали, что они забрали награду с собой.
Поляки. Они меня никогда не подводили.
Но это не то, о чем я в основном хотел сегодня написать. Сегодня я сосредоточен на других видах выражения признательности, и это касается ИИ.
* * *
Когда я занимался исследованиями для «Мудрости толпы», я копался в различных статьях по глубокому обучению и текстовым ботам. В их число вошла недавняя статья Сэма Галлахера Ars Technica, которая познакомила меня с OpenAI GPT-2: текстовым ботом, который пожирает души отчетов FDA, речей Клинтона и обзоров продуктов Amazon, и выдает все это обратно, используя гамму от зловещего:
Согласно исследованию, опубликованному Институтом медицины, около 400 000 человек ежегодно умирают от переливаний, в основном из-за множества заболеваний, от ВИЧ-инфекции до диабета 2 типа. В возрасте 24 лет почти 60 процентов этих смертей вызваны переливаниями, даже при том, что существует значительное генетическое и физическое нарушение, которое приводит к смертельным случаям, таким как сердечные приступы, инсульты или инсульт, связанный с инсультом [1].
Прямо до Трамповского:
КОЗЕЛ-ХРЕН-В-МАЛЬЧИК-МАЛЬЧИК
ВЕЛИКИЙ МАЛЬЧИК
ВЕЛИКИЙ-КОЗЕЛ-КОЗЕЛ-КОЗЕЛ-КОЗЕЛ-КОЗЕЛ-КОЗ-КОЗ-КОЗ-КОЗ-КОЗ-КОЗ-КОЗЕЛ-КОЗЕЛ-КОЗЕЛ-КОЗЕЛ-КОЗЕЛ-КОЗЕЛ-КОЗЕЛ-КОЗЕЛ-КОЗЕЛ-КОЗЕЛ-КОЗЕЛ-КОЗЕЛ [2]
- через что-то среднее:
Ким Чен Ын, лидер Северной Кореи и наиболее тесно связанный с Соединенными Штатами, предупредил о неизбежном нападении США. По данным государственного телеканала страны, в четверг в результате испытания водородной бомбы погибли 13 человек и несколько человек получили ранения в результате взрыва в Пхеньяне. <| Endoftext |> Кокосовый крем
Оставьте в стороне ложные утверждения о водородных бомбах в Пхеньяне и тому подобном. Если бы ложных утверждений было достаточно, чтобы провалить тест Тьюринга, вы могли бы перечесть все разумное население Интернета по пальцам рук и ног, и, кроме того, весь смысл глубокой подделки заключается в том, чтобы скрыть ложь в ауре правдоподобия. Пропустите также этот глюк с кокосовым кремом и его родичей, поскольку этот текст Ars Technica был сгенерирован не самим GPT-2, а лоботомизированным вариантом, работающим всего со 117 миллионами параметров; полноценная программа (которая обрабатывает 1,5 миллиарда параметров) вряд ли допустит такие очевидные ошибки. (Это и есть причина, по которой у Ars Technica не было доступа к нему, на самом деле: OpenAI отказался выпустить его, потому что он слишком хорош, его слишком легко можно использовать в гнусных целях.)
Эти генерирующие текст алгоритмы асимптотически приближаются к реальным итерациям китайской комнаты Сёрла. Так что, вероятно, это был только вопрос времени, когда кто-то в акте высочайшего мастерства применил бы один из них к «Ложной слепоте».
Этот «кто-то» оказался Коди Раскином, астрофизиком из Ливерморской национальной лаборатории. Он скормил «Ложную слепоту» сети глубокого обучения Google и велел написать продолжение. Общий результат составляет почти 1400 слов, и его стоит прочитать полностью, но вот несколько выдержек для тех, у кого мало времени:
Я подумал, что Сарасти вернулся к старым уловкам и контрмерам: я отбросил орудие от челнока и наблюдал, как оно теряется вдали, провода тянутся, как рыбий хвост, за рейкой. Я услышал его ворчание.
Теперь шаттл набрал высоту. Он быстро качнулся вниз по оси вращения и исчез. Низкий лязг с одной стороны отразился эхом тысячи орудий, сгибающихся перед моим взглядом. Прошла секунда, почти незаметная, как сердцебиение комара на проводе.
Одно из орудий вспыхнуло и раскололось. Роршах сопротивлялся моему рефлексивному взгляду; я должен был пристально смотреть на своего хозяина после захвата, чтобы зарегистрировать Роршаха, движущегося по барабану, как какое-то живое насекомое.
...
«Идея о том, что мозг не создает информацию, является иллюзией. Это все равно, что сказать мне, что мои глаза не связаны с моим мозгом, и зрение - это не то, что он делает, то есть показать, что есть некоторая тонкая, но существенная разница между видением и знанием».
«Вы не думаете, что именно это определяет мозг? В самом деле, не думаете? - сказала она.
«Это действительно рискованное утверждение. Подробности исходят из изучения поведения нейронов, а не из какого-то фантастического теоретического описания мозга».
«С чего бы?»
«Потому что когда вы смотрите, что происходит под поверхностью? Мозг должен сбалансировать всю сенсорную информацию, а когда ваши глаза не смотрят на одно и то же снова и снова - ну, это не так просто, не так ли?». - Она улыбнулась ему. «Все это выглядит очень сложным для нас, но то, что происходит внутри мозга, не так просто для глаз. Что интересно в мозге, так это то, что он на самом деле не знает».
«Но это так», согласилась Бейтс. «То, что вы знаете, это то, что вы делаете».
...
Не то чтобы Сарасти поверил в историю. Но теперь он знал намного больше, чем тогда. Возможно, это было даже важнее его собственных способностей. Он знал, что я слушал; по крайней мере, то, что он сказал, что он действительно хотел сказать, он знал, что я смотрю.
Но я всегда знал и был настороже, и знал что-то.
Я знал, о чем я думал. И я знал, что я говорил.
Он знал ответ на этот вопрос в течение нескольких часов, и он рассчитал все это для остальных одиннадцати, если честно. Он знал мои чувства в тот момент; он знал последствия, если я был прав; он также точно знал, как долго мне придется играть в игру; и в этот момент последствия были настолько очевидны, что мне даже не пришлось их угадывать.
Я знал, что это все напрасно, что Сарасти просто найдет другую жертву.
Хотя у меня никогда не было шанса. Я был так близко. Я был так чертовски далеко.
Я был у подножия горы.
Я сидел в этом кресле.
Есть несколько предсказуемых реакций на все это. Неизбежно некоторая часть читателей будет считать, что этот контент, сгенерированный ИИ, значительно лучше, чем реальное продолжение «Ложной слепоты», - и поскольку я не полностью антипатичен этой точке зрения, я предлагаю всем нам подождать немного, чтобы позволить этим людям выбросить это из головы.
Другая реакция - быть напуганным стилем. Это действительно звучит как я; и есть бесспорные нюансы, ритм слов, который каким-то образом заставляет вас думать, что они имеют смысл, даже если они его не имеют. Коди называет это «бармаглотским» качеством: «вы чувствуете, что здесь о чем-то говорится, и образы, безусловно, формируются у вас в голове, но вы не можете точно определить, что на самом деле происходит». Это очаровывает меня, это ощущение смысла без содержания. Я почти назвал бы это метафорой ответов, которые профессиональные политики дают на неудобные вопросы: бойкие, красноречивые, каким-то образом обнадеживающие, пока вы не попытаетесь разобраться в фактическом значении слов и не сможете найти его. Но я не могу назвать это метафорой, потому что она кажется слишком близкой к правде для простой аналогии. Я подозреваю, что авторы речи используют почти те же алгоритмы, что и эти текстовые роботы.
Но сейчас меня преследует искушение. Поскольку применение «китайской комнаты» к книге о китайских комнатах очень «мета-», мы можем пойти дальше. В конце концов, я пишу третий и последний том в серии - и, по крайней мере, часть этого романа, вероятно, будет связана с распадом сознания некоторых персонажей. Это процесс, который может быть хорошо представлен своего рода потоком бессознательного, создаваемым нейронными сетями, направляющими слова сознания.
Прямо сейчас я не могу придумать ничего более крутого, чем заставить ИИ генерировать хотя бы некоторые элементы «Omniscience». Я понятия не имею, смогу ли я заставить это работать - логистически или тематически - но нам нужно придумать какое-то новое слово для результата.
«Мета» дает нам только полпути.
____________
Примечания:
[1] На основе текста из статьи А.Т. о переливаниях крови
[2] Предположительно, основано на тексте из реальной речи Трампа.