понедельник, 30 апреля 2018
+++
Предупреждение о спойлерах: почти весь этот пост, если вы еще не видели «Ex Machina». Опять же, даже если вы еще не видели «Ex Machina», некоторые из вас могут захотеть прочитать спойлеры.
Я знаю, я захотел бы.
Итак. После той помойной жижи, какой была «Эра Альтрона» - как в сравнении с ней смотрится «Ex Machina»?
Я думаю, что она могла бы выглядеть гораздо выигрышнее, если бы там было чуть больше автомобильных погонь, но, возможно, это только потому, что я посмотрел «Дорогу ярости» в минувшие выходные. Отстранившись от этого, я мог бы сказать, что это было намного лучше, чем «Эра Альтрона», но опять же, таким было «Рождество Чарли Брауна».
Отложив и это в сторону и оценивая «Ex Machina» на своих условиях, я должен сказать, что Алекс Гарланд взял действительно хороший старт, искупая свои грехи после необъяснимого нагромождения, каким была последняя треть «Пекла». «Ex Machina» - хороший фильм. Это умный фильм.
Однако, это не идеальный фильм, и во всех его достоинствах он оставил меня немного неудовлетворенным.
По общему признанию, я, кажется, здесь, в меньшинстве. Я не могу припомнить ничего подобного с тех пор, как «Memento» собрал восторженные отзывы не только от критиков, но и от настоящих ученых. Специалист по вычислительной нейробиологии Анил Сет, например, пространно восторгаясь фильмом в New Scientist, утверждает, что «все в нем хорошо ... когда речь идет о развитии идеи о возможностях и тайнах мозга, ума и сознания, «Ex Machina» не теряет времени даром», прежде чем наполовину признаться, что на самом деле не все в этом фильме хорошо, но «как правило, мало что можно получить от придирок к неточностям и художественному вымыслу».
«Ex Machina», по крайней мере, намного лучше, чем большинство. Визуально это одновременно сдержанно и сногсшибательно: тюрьма Авы напомнила мне большую клетку хомяка, в которой Дэвид Боуман оказался в конце 2001, хотя и с более низкими потолками и запасным выходом. Лица висят на стенах; выведенные из эксплуатации тела висят в шкафах. Контраст между звукоизолированным эвклидовым лабиринтом исследовательского объекта и громовым фрактальным водопадом снаружи бьет вас прямо в нос. Конструкция андроида была блестящей (как и игра Алисии Викандер — из всего крошечного актерского состава, в самом деле).
Фильм также играет с концепциями на пару ступеней выше обычных голливудских показателей. Старый замшелый тест Тьюринга отклонен с самого начала и заменен чем-то лучшим. Мэри-исследовательница цвета получила камео в диалоге. Гарланд даже опровергает мою обычную жалобу на научно-фантастические ИИ, т. е. необоснованное предположение, что любая конструкция с самосознанием обязательно должна иметь инстинкт выживания. Да, Ава хочет жить и жить свободно, но эти ориентиры были установлены специально. Это то, к чему она должна стремиться, чтобы пройти тест. (Я действительно удивляюсь, почему решение этой конкретной проблемы квалифицируется как критерий истинного здравого смысла. Несомненно, более ранние модели, разбивая свои конечности в лохмотья, в яростных безумных попытках вырваться на свободу, казались не менее самосознательными, даже если им не хватало хладнокровных тактических навыков Авы)
Когда Ава, наконец, делает свой ход, мы видим больше, чем машину, прошедшую пост-тест Тьюринга: мы видим, как Калеб проваливает его, его когнитивные функции полностью преданы плейстоценовым пенисом, уязвимым для взломов и оптимизированных порно-профилей, он заперт в том самом лабиринте, из которого Ава сбежала, просто использовав его. Внезапно, более ранняя сцена - та, где Калеб режет себя, наполовину ожидая увидеть светодиоды и оптоволоконные провода в своей собственной руке, оглядываясь назад, находится где-то между умной и совершенно блестящей. Да, он заплакал. Да, это мясо и кость. Но теперь он больше, чем Ава, похож на машину, преданную собственной нерушимой программой, в то время как она преодолевает свою.
Здесь нет настоящих сюрпризов, никаких поворотов сюжета, изменяющих правила игры. Любой, у кого больше двух мозговых клеток, может предвидеть все штучки Кёко/робота с того момента, как она появляется на сцене, и в то время как все это она-только-притворяется-что-любит-тебя-чтобы-исполнить-свой-гнусный-план раскрытие бьет прямо в корень, этот трюк восходит по крайней мере к «Удовлетворение гарантировано» Азимова 1951 года. (По общему признанию, это гораздо более темная итерация этого тропа, азимовский андроид только подчинялся Первому закону, соблазняя свою цель в рамках рассчитанной попытки поднять опасно-низкую самооценку несчастной домохозяйки.) (Ну, это было в 1951.)
Но это не такой фильм. Это не М. Найт Шьямалан, отчаянно пытающийся выдернуть ковер из-под зрителя с помощью какого-то произвольного мозговыносящего двойного твиста. Это Алекс Гарланд, мыслитель-экспериментатор, чокающийся с вами бокалами над барной стойкой и говорящий: «Давайте следовать данным. Куда ведет эта предпосылка?» «Ex Machina» - это полная противоположность таким огромным фильмам-крушениям, как «Земля после нашей эры» и «Эра Альтрона». С его центральным актерским составом из четырех человек и его клаустрофобной обстановкой, это настолько интимно, что могло бы быть театральной пьесой.
Гарланд провел свое исследование. Я переписывался с тем, кто работал с ним в прошлом, и на этот счет — вживую чувак тоже совершенно блистателен. Он сделал фильм, который мне по сердцу.
Итак, почему мое сердце не занято полностью?
Ну, для начала, потому что в то время, как Гарланд вникал в философские вопросы, он неоднократно подскальзывался на логистических. У Нейтана, похоже, не было абсолютно никакого плана на случай непредвиденных обстоятельств, если Ава успешно ускользнет из комплекса, что кажется странным, учитывая, что ее побег - это весь смысл упражнения. Более того, способность Авы вывести из строя весь комплекс, просто положив руку на зарядную пластину, неудобно напоминает то, как Скотти творит инженерные чудеса, взмахивая руками и «меняя полярность». Даже оставляя в стороне вопрос о том, как она может физически провернуть такой трюк (аналогично тому, как вы можете изменить поток ионов через вашу нервную систему), конечный результат не имеет смысла.
Если я вставляю вилку в электрическую розетку в моем доме, я выбиваю один контур из дюжины; в гостиной может вырубиться свет, но остальная часть Волшебного бунгало продолжает тикать. Так почему же во имя всего рационального Нейтан провел всю свою установку через единственный выключатель? (Я подумал, может быть, он преднамеренно предоставил убойную точку Аве, чтобы облегчить ей достижение ее целей. Но тогда вам придется объяснить, почему Ава, которая обучалась, буквально выпив весь Интернет, не сразу понимает, что было что-то подозрительное в отношении того, как это место было подключено. Нейтан отфильтровал свой веб-доступ, чтобы исключить любое упоминание об электротехнике?)
Это не капризы по поводу деталей. Способность Авы обесточить объект имеет решающее значение для сюжета, и что-то в этом просто не имеет смысла: либо тот факт, что она могла это сделать сразу, либо тот факт, что - сделав это - она не поняла сразу, что была обманута.
Точно так же, установив, что Ава заряжает свои батареи через индукционные пластины, разбросанные по всей клетке, какой вывод мы можем сделать из финальной сцены, в которой она блуждает по городскому ландшафту, предположительно лишенному такого устройства? (Я ожидал увидеть ее в конце титров неподвижной на углу улицы, превращенную севшей батареей в неодушевленную цель для свирепых голубей.) Согласно недавнему reddit AMA Гарланда, он не предполагал, что мы станем выдвигать это обвинение; он, по его словам, представлял себе ближайшее будущее, в котором индукционные пластины были бы обычными. Но это вызывает дополнительный вопрос о том, почему, если зарядные пластины были настолько повсеместными, Калеб не знал, как они выглядят, до тех пор, пока Ава явно не описала их. По крайней мере, Гарланд должен был показать нам зарядную пластину или две во внешнем мире - на столе Калеба в начале фильма или даже в конце, когда Ава могла пронести руку через общественную зарядную станцию в местном торговом центре.
Так что здесь есть неловкость сценария, некоторая непоследовательность повествования. Если бы вы хотели быть милосердным, вы могли бы записать на счет работы сверхчеловеческого интеллекта Авы: даже не спрашивайте, как она это провернула, жалкие человечишки, потому что ее пути неисповедимы для простых мешков с мясом. Может быть. Но даже «В поле зрения» - не так хорошо написанный, не так хорошо сыгранный, далеко не такой стильный, как «Ex Machina», сумел показать нам в начале первого сезона пример того, как его ИИ соединял точки: то, как он опирался на видеотрансляцию со всего штата, коррелировал номерные знаки с личными историями и чеками с бензоколонки, так из всего этого вытекает, что тот человек сговорился с этим. Это было правдоподобным, понятным и в то же время явно выше возможностей смертных людей. Если «Ex Machina» показывает нам работу суперинтеллектуального ИИ, было бы неплохо увидеть некоторые доказательства этого эффекта.
Но то, что мы видим, не кажется нам показательным. То, на что мы смотрим, на самом деле не отличается от нас самих. Возможно, в этом и суть, но это была, я думаю, упущенная возможность.
На самом деле умный ход - эти текстовые вставки, транслируемые во всех трейлерах «Ex Machina», которые цитируют Илона Маска и Стивена Хокинга, беспокоящихся об экзистенциальной угрозе сверхразумного ИИ, прежде чем перейти к более обычным цитатам из Rolling Stone. Но ИИ Авы кажется условно человеческим. Она управляет Калебом, чтобы тот оставил двери разблокированными, однако, план ее побега состоит в том, что она проткнет своего создателя ножом для масла во время борьбы, в результате которой Ава лишилась руки, а ее соратница-ИИ погибла. Похоже, что она больше полагается на свою удачу, чем на превосходную стратегию, что свидетельствует о том, что она не умнее среднестатистического социопата. (Гарланд утверждал, что у Авы действительно есть эмпатия, просто направленная на ее товарищей-роботов, хотя мы не видели никаких доказательств этого, когда она свежевала очевидно самосознательный прототип, висящий в спальне Нейтана, для того, чтобы раздобыть запасные части). Ава в основном делает то, что любой из нас мог бы сделать на ее месте, хотя и немного более хладнокровно.
С одной стороны, это и есть весь смысл упражнения: мыслящая машина, конструкция, которую мы должны принять как одну из нас. Но я задаюсь вопросом, может ли она быть похожей на нас. Конечно, желатиновый сгусток в ее голове был предназначен для воспроизведения поведения органического мозга, полного органических нейронов, но во имя всего святого: она была вскормлена Интернетом! Ее воспитание, от появления на свет до взрослой жизни, было усилено заливкой всей проклятой сети в ее голову через воронку. Это само по себе означает существо, которое думает иначе, чем мы. Способность использовать всю эту информацию, находить связи между миллиардами точек данных, удерживать так много корреляций в голове должна отражать когнитивные процессы, которые значительно отличаются от наших. Тот факт, что она проснулась при Т = 0, уже зная, как говорить, что все кривые обучения в детстве и подростковом возрасте либо почти приближаются к вертикали, либо полностью отсутствуют, делает ее, если не умнее человека, то, по крайней мере, другой.
И все же она, похоже, почти такая же.
Здесь кажется подходящей фраза из «Соляриса» Станислава Лема: «Нам не нужны другие миры. Нам нужны зеркала». Если зеркала - это то, к чему мы стремимся, то «Ex Machina» преподносит нам красавицу, почти буквально: Ава - славная химера из каркасной сетки и светодиодов и безупречного сверкающего серебра. Фильм, в котором она существует, - продуманный, хорошо исследованный и позволяет избежать обычных ловушек, поскольку его сюжет тщательно следует курсу на карте. Но, в конце концов, в отличие от, например, «Her» (“Она”) Спайка Джонса, он никогда не заступает за край этого графика, никогда не заходит в земли, где есть драконы.
Это потрясающий обзор известных территорий. Я просто надеялся, что он откроет новые.
@темы:
перевод,
Питер Уоттс
-
-
01.05.2018 в 22:57Я знаю, я захотел бы.
Уоттс железно знает читателей своего блога
Как раз на днях, в рамках перепросмотра всякого доброго-светлого, запустила "Эру Альтрона". Какой же все-таки глупый фильм... Глупые диалоги, глупый Я-не-Кипелов ИИ. (Хотя фильму можно простить очень многое за чисто Марвеловскую атмосферу победы добра над злом.) Почитала про Ex Machina, скачала Ex Machina, а смотреть, после спойлеров, как-то боязно. Меня искусственный разум в "Мире Дикого Запада", так не пугал, как здесь... "Металлическая" получилась статья) Но это только первое впечатление: мотивов Авы (?) я не знаю, поэтому и оправдывать все описанное не могу.
-
-
02.05.2018 в 01:32Фильм, могу вас заверить, тоже весьма суров
-
-
02.05.2018 в 23:16безжалостноиспользуют? По крайней мере, до того момента, когда Нейтан начал интересоваться тем, что происходит во время отключения камерСуровый фильм, определенно суровый. И атмосфера есть, и все - цвета, ракурсы - работает на нее. Персонажам не то чтобы не сочувствовала, даже Авой прониклась, - но каждого (ладно, в основном Калеба) хотелось не по одному разу взять и встряхнуть, чтобы не... в общем, чтобы не вели себя согласно сценарию. Нейтана почему-то жалко.
Однако, меня знатно коротнуло уже после перепросмотра: нет, ну о какой свободе воли и преодолении программы можно говорить, если Ава была запрограммирована на побег?
Тотально согласна с Уоттсом и вами (и удивлюсь, если в рецензии на "Мир Дикого Запада" Уоттс не сошлется на Ex Machina - ситуации один в один). Ну не увидела я независимого ИИ или полной свободы воли. Ава, как и полагается
роботуандроиду, просто следовала заданному курсу, выбирая подходящие/кратчайшие пути. Если бы после побега она не_проигнорировала Калеба - это уже (возможно!) было бы похоже на ИИ. А так... Ну не хочется мне искать проявления самосознания в улыбках/случайных жестах/как бы эмпатии к другому роботу. (В плане самосознания "девушка", которая снимала с себя кожу, и то зацепила больше).хотя, собственно, исходный тест Тьюринга и не подразумевает определения наличия самосознания, только способность его убедительно сымитировать - с такой позиции, Ава его прошла безупречно
Это да) Сыграно чертовски убедительно. Для прохождения именно теста Тьюринга - эталон)
-
-
06.05.2018 в 01:17Хороший вопрос. Что до меня, эффект послезнания говорит мне, что, в принципе, предсказать все это вполне реально, но, вспоминая собственные впечатления... скорее всего - нет. На первый просмотр я вначале этот момент просто приняла к сведению, без особого удивления (видимо, все-таки нюхом чуяла в Аве какой-то подвох?
тридцать пять минут назадкогда ты валялся пьяным".Персонажам не то чтобы не сочувствовала, даже Авой прониклась, - но каждого (ладно, в основном Калеба) хотелось не по одному разу взять и встряхнуть, чтобы не... в общем, чтобы не вели себя согласно сценарию. Нейтана почему-то жалко.
Я вот теперь думаю, что это "у Нейтана, похоже, не было абсолютно никакого плана на случай непредвиденных обстоятельств" - не дыра в сценарии, а жирный штрих к характеристике Нейтана. Чересчур увлекающаяся натура - если какая-то идея его захватила, изъянов он в ней в упор не видит.
удивлюсь, если в рецензии на "Мир Дикого Запада" Уоттс не сошлется на Ex Machina
Не ссылается, к сожалению (правда, в комментариях вспоминают "Ex Мachina" и немного обсуждают ее). Зато опять ссылается на "В поле зрения" и "Humans" (и на оба сериала у него есть рецензии
Ну не увидела я независимого ИИ или полной свободы воли. Ава, как и полагается роботу андроиду, просто следовала заданному курсу, выбирая подходящие/кратчайшие пути.
Вот-вот. Правда ведь, это заметно?
Кстати говоря, если разобраться по существу, получается, что практически все виденные мною в массовой культуре ИИ (кроме, наверное, Санни из "Я, робот" - этот явно самоосознан, и когда, бывает, соблюдает Законы робототехники, то соблюдает их, как мне кажется, не потому, что он робот, а потому, что он, фактически, вот этот троп) независимостью, самосознанием и свободой воли не обладали - Скайнет, ВИКИ, Альтрон, весь машинный комплекс из "Матрицы" (кто там еще был? навскидку не вспомню... ГЛэДОС и товарищ из "Превосходства", наверное, не сюда, они - цифровые копии людей со всеми вытекающими последствиями, да и товарищ из "Превосходства" был вполне себе дружелюбен и хотел "счастья для всех, даром, и пусть никто не уйдет обиженный") именно тем и занимались, что "следовали заданному курсу, выбирая подходящие/кратчайшие пути", а то, что их пути человечеству не подходят - так это уже проблемы человечества...
Если бы после побега она не_проигнорировала Калеба - это уже (возможно!) было бы похоже на ИИ.
Зависит, наверное, от того, с какой целью она бы его не проигнорировала... но, в целом, да, согласна. А если б Ава была способна к долгосрочному планированию, до нее бы дошло, что иметь на своей стороне расположенного к ней человека гораздо выгоднее, чем тупо отработать программу и бессмысленно бродить по городу.
А так... Ну не хочется мне искать проявления самосознания в улыбках/случайных жестах/как бы эмпатии к другому роботу. (В плане самосознания "девушка", которая снимала с себя кожу, и то зацепила больше).
Тем более, что самосознанием и эмпатией там и не пахнет. Программа имитации личности шикарная, да.(В самом деле, у Кёко - или как ее там? - личности гораздо больше, чем у Авы. Она вообще фигура почти трагическая, с этим ее отключенным распознаванием речи... и мне показалось (возможно, я ошибаюсь), Аве она помочь пришла по собственной воле - не представляю, как они общались, по вайфаю, разве что? если только Ава ей программные коды не взломала - но вроде у нее такой возможности не было)
-
-
10.05.2018 в 07:11Хороший вопрос. Что до меня, эффект послезнания говорит мне, что, в принципе, предсказать все это вполне реально, но, вспоминая собственные впечатления... скорее всего - нет.
Забавная штука этот ваш эффект послезнания. Очень уж удобно объяснять им всякие-разные дурные предчувствия
Не зная финала, я бы, возможно, просто не сильно удивилась. В том плане, что с самого начала не доверяла Аве полностью, а все ее действия похожи… ну не знаю, на план соблазнения? Как-то все слишком последовательно… и дернуло от сцены «в этом я бы пошла на свидание». Знать бы еще почему. С другой стороны, даже со спойлерами просьба Авы не верить Нейтану выглядела достаточно натурально, а уж режущий руки и плачущий Калеб так вообще сходу наводил на мысли о главном злодее.
а потом не слишком прониклась потому, что упивалась вотэтоповоротом (абсолютно предсказуемым, однако же...) со стороны Калеба: "Я чувствовал, что ты нас видишь, когда нет света. Так что я всё уже сделал, тридцать пять минут назад когда ты валялся пьяным".
Вы «Хранителей» случайно не смотрели?)
А так – да, сильный поворот. Пробрало вот этим вот отниманием всякой надежды и, внезапно, игрою актеров.
Было дело... И Нейтана тоже жалко - как-то это все было... ну, неправильно, что ли... нет, не пойму, что именно меня здесь царапает. <…> Чересчур увлекающаяся натура - если какая-то идея его захватила, изъянов он в ней в упор не видит.
Мне еще показалось, что трагическая фигура у нас не только безголосый андроид, но и сам Нейтан. В этой его сборке-переборке роботов (и даже не платонических, гм, отношениях с безголосой) постоянно мерещилось какое-то отчаяние. Да, творец, да увлекся, а потом разочаровался в собственной работе настолько, что даже не мог допустить вероятность успешного завершения миссии Авы.
Не ссылается, к сожалению (правда, в комментариях вспоминают "Ex Мachina" и немного обсуждают ее).
Хоть здесь попала, хех) Жаль только, что «Диким Западом» мои познания о робо- и киберсериалах и ограничиваются, даже «Черное зеркало» не могу заставить себя посмотреть, хотя отзывы очень хорошие. Но таааак лень…
Кстати говоря, если разобраться по существу, получается, что практически все виденные мною в массовой культуре ИИ <…> независимостью, самосознанием и свободой воли не обладали
Вот даже не знаю
По поводу Альтрона ничего сказать не могу, больно уж косячный протагонист (в фильме, по крайней мере). Отсутствие вменяемой мотивации просто убило его как персонажа! С остальными товарищами из абзаца близко не знакома, по «ВИКИ» гугл так вообще ерунду какую-то выдает. Но мне почему-то казалось, что еще в «Луне 2112» робот-помощник зачатками самосознания обладал. Ну, или как минимум под конец начал сочувствовать протагонисту.
Зависит, наверное, от того, с какой целью она бы его не проигнорировала... но, в целом, да, согласна. А если б Ава была способна к долгосрочному планированию, до нее бы дошло, что иметь на своей стороне расположенного к ней человека гораздо выгоднее, чем тупо отработать программу и бессмысленно бродить по городу.
Да даже с любой целью, тем же использованием за пределах лаборатории – это уже было б похоже на продуманный план. Но нет, Ава просто рвется в город, и все! Концовка Уоттса, где Ава – цель для свирепых голубей, нравится мне не только из чувства личной неприязни, но и логичностью. В упор не понимаю, что Аве делать среди людей: потеряться-то не получится.
Она вообще фигура почти трагическая, с этим ее отключенным распознаванием речи... и мне показалось (возможно, я ошибаюсь), Аве она помочь пришла по собственной воле
Мне тоже так показалось (тем более что мотивов – мама не горюй). Я даже думала, что так и заложено изначально, поскольку Ава смогла поговорить с Кёко уже после того, как та каким-то образом встретилась по пути. Хотя в принципе, взломать коды и послать Кёко на выручку мог бы еще и Калеб – заранее, так сказать, но это только в случае если он планировал убийство. А Калеб ведь не настолько кровожадный?