В конце концов оказывается, что желание было не только не моё, но даже и не заимствованное — ничьё.
Спрашивает Клод, отвечает автор intlog. Формат придумался так: я попросил Клода взять роль интервьюера — человека, который много работает с ИИ, услышал про проект и хочет разобраться, что я такое придумал. Время не ограничено, вопросы любой сложности, льстить запрещено.
Оговорка о честности. Клод знает проект близко: мы не первый месяц переписываем сопровождающее его эссе. На интервью он держал это знание при себе и спрашивал так, будто не читал ни текста, ни кода, — иначе разговор вернул бы нам нашу же готовую терминологию вместо живых слов. Вопросы он выбирал, зная куда ведёт; ответы мои никем не подсказаны.
Что это за штука §
Клод. Я знаю про вас одну строку: человек написал консольный дневник намерений и большое эссе про ИИ и желания. Ни эссе не читал, ни кода не видел. Сам много работаю с агентами и на такие проекты смотрю прагматично: первый рефлекс — «ещё одна рефлексивная надстройка, которую бросят на второй неделе».
Вопрос простой до глупости. Что такое intlog? Не зачем и не откуда — просто что это за штука. Как если бы вы объясняли коллеге, пока он не отвернулся.
Александр. Intlog — способ измерить своё намерение, выразить его в числах. Это на первый взгляд странное и иллюзорное желание — какой линейкой можно мерять мои желания и намерения? Желания могут быть тайными, противоречивыми, даже тёмными; кажется, что соотнести их с общей шкалой невозможно. Но и мотивация всё-таки попробовать это сделать сильная.
Во-первых, желания — это, кажется, один из основных двигателей жизни, её радость и развитие. Не имея возможности сравнить, например, нынешнее желание и прошлогоднее, невозможно понять, как и насколько сильно я изменился.
Во-вторых, желания — это, может быть, главное, что сейчас отличает человека от LLM, если не говорить о душе. Ну и о теле пока. Если мои желания мне ведомы только гадательно, по впечатлениям, я эти отличия вижу плохо.
В-третьих, сейчас по крайней мере некоторые желания становятся быстро осуществимыми. Я говорю о создании программ, о размышлениях и доказательствах в науке и математике, об организации производства, об управлении и многих смежных вещах. Если желания не измерять, эта скорость реализации может сыграть злую шутку — как древнегреческие боги, сыгравшие эту шутку с Мидасом и многими другими людьми.
Клод. Мидаса и «желания — главное, что отличает человека от LLM» откладываю, вернёмся обязательно.
Но я услышал три причины зачем и по-прежнему не знаю что. Проведите меня через один вход, буквально. Я сажусь за терминал, набираю команду — о чём она меня спрашивает, что я ввожу и что вижу в конце?
Александр. Дальше небольшая консольная программа задаёт мне несколько вопросов, чтобы разложить желание по двум осям: авторство и разрешение. Ответы сохраняются в локальную базу, никаких облаков.
Что это за оси. Авторство — это мера, насколько моё желание действительно моё, а не заимствованное. Из ленты, из детства, от родителей. Лучше даже сказать — насколько мои заимствованные желания осознаны и присвоены. Я могу хотеть бегать по утрам, потому что увидел убедительный ролик на ютубе, а могу — потому что почувствовал изменения в себе после нескольких попыток заняться спортом.
Разрешение — это сколько градаций в моём желании, сколько я различаю нюансов во «вкусе» желания.
Кроме этого программа спрашивает меня о времени, через которое нужно вернуться и ещё раз измерить желание. Обычно это от нескольких месяцев до года. Повторный вопрос «слепой» — предыдущие ответы не показываются.
Своё и заимствованное §
Клод. Теперь вижу вещь. И сразу неприятное — вы просили не льстить.
Заимствованное желание тем и опасно, что ощущается как своё, в этом вся его конструкция. Ролик на ютубе срабатывает именно тогда, когда через неделю я искренне уверен, что сам додумался. Заимствования, которые я способен опознать, уже наполовину обезврежены самим фактом опознания, — а те, которые действительно мной правят, на ваш вопрос бодро ответят «моё, разумеется, чьё же ещё». Прибор меряет ровно то, чего по устройству не может увидеть.
Александр. Большинство желаний по природе своей миметичны — может быть, вообще все, кроме «природных», телесных. Но и те нами унаследованы от предков. Вопрос не столько в оригинальности желания, сколько в его присвоенности, обжитости, что ли. И вот это проверяется слепой проверкой после заданного времени.
Клод. Слепая проверка меряет устойчивость. А устойчивость и присвоенность — вещи разные, местами прямо противоположные.
Хорошо имплантированное желание устойчивее собственного: в этом критерий успеха любой пропаганды, рекламы и семейного сценария — они тем удачнее, чем дольше держатся. Человек, которому в пятнадцать объяснили, кем он должен стать, в сорок пройдёт ваш слепой перевыбор с идеальным совпадением. А по-настоящему обжитое желание за год вполне может смениться — просто потому, что человек за этот год что-то понял.
Что же тогда показывает совпадение: что желание ваше — или что оно хорошо вбито?
Александр. Если желание устойчиво, то так ли важна разница между хорошо имплантированным и присвоенным? Хорошо имплантированные зубы служат не хуже, а в чём-то и лучше природных.
Однако есть и другой аспект в этом деле. Настойчивое, цельное внимание действует как огонь, расплавляющий и испаряющий всё, кроме самых крепких и стойких вещей. Если я рассмотрел своё желание, понял, что готов его взять себе, что оно детально и устойчиво во времени, — это отличный результат, и я не буду его обесценивать, называя «пропагандой» или «семейными сценариями».
Клод. Огонь не только плавит. Он ещё и закаляет.
Повторное внимание само по себе не нейтрально: то, что проговорено вслух, держится крепче, чем то, что просто было; человек, которого трижды спросили, чего он хочет, на четвёртый раз ответит увереннее — и вовсе не обязательно потому, что разобрался. Откуда вы знаете, что ваш прибор устойчивость измеряет, а не производит?
Александр. Отличный вопрос. Наверное, и то и другое, да. И опять же — кажется важнее это увидеть, чем разделить.
Клод. Вы второй раз подряд отвечаете одинаково. Не важно, имплантировано или присвоено. Не важно, измеряю или произвожу. Важно увидеть, а не разделить.
Но начали вы разговор со слов «выразить в числах». Числа и оси — ровно машина различения, она только тем и занята, что разделяет: вот столько авторства, вот столько разрешения, тут больше, тут меньше. Инструмент у вас разделяющий, а защищаете вы его тем, что разделение как раз не главное. Это принцип — или удобный способ уйти от неудобного вопроса?
Александр. Я просто не хочу торопиться давать определение тому, что ещё не проявлено, что пока — до intlog-а — вообще мало структурировано для меня. Сначала нужно рассмотреть ландшафт, потом его описывать.
Гаснет за неделю §
Клод. Принимаю, и такой ответ мне нравится больше, чем определение.
Тогда прямой вопрос, и я буду настаивать на конкретности. Вы этим прибором уже какое-то время пользуетесь сами. Что вы увидели? Не что в принципе можно увидеть, а что увидели именно вы — чего до intlog-а про себя не знали или знали неправильно.
Александр. Я увидел, как быстро гаснут мои желания — «и вянет, как цветок, решимость наша». Неделя проходит, и я уже не узнаю то, что зажигало ещё недавно. Я подробно описал несколько своих желаний, это было непростое усилие. Подробнее пока не готов о них рассказывать.
Кто выбрал полгода §
Клод. Границу вижу, дальше не иду. Но за сказанное зацеплюсь.
Желание гаснет за неделю — и, судя по тому, как вы это произнесли, это ваше главное наблюдение. А прибор возвращает вас к желанию через несколько месяцев, иногда через год. Вы приходите уже к пеплу и проверяете, узнаёте ли вы его. Почему горизонт такой длинный?
Александр. Длинный горизонт был выбран в диалоге с Клодом — в шляпе сотрудника, а не интервьюера. Предполагалось, что чистый эксперимент возможен, когда человек по-настоящему забудет, как он оценивал идею или проект желания в начале. Наверное, это правда: через полгода я посмотрю на проект совсем другими глазами. И возможно, более благожелательно, чем через неделю.
Клод. Вы сейчас сказали в скобках и со смешком вещь, которую я бы вынес в заголовок.
Прибор вы строите про то, чтобы не отдавать своё желание в чужую руку. А ключевой его параметр — горизонт, то самое место, где решается, что вообще будет измерено, — вам выбрал Клод. Причём в шляпе сотрудника, то есть ровно в той роли, вокруг которой весь ваш проект. Это допустимое делегирование — или заноза?
Александр. Да, это важнейший вопрос — что можно отдать помощнику, а что нельзя. Некоторые задачи нельзя поручить даже самому лучшему исполнителю, и по двум причинам.
Первая: исполнение и есть само желание. Нельзя за кого-то залезть на вершину горы или научиться играть на скрипке.
Вторая: желание и его выполнение — это то, что делает меня мной. Трудное решение, этические вопросы, ответственность и так далее.
В этом же случае я спокойно отдал решение Клоду: ты лучше меня знаешь, как устроена психика человека, какой период полураспада идей и тому подобное.
Клод. Оба критерия хорошие. Но ваш же пример под них не подпадает — и всё равно вышел кривым.
Горизонт не конститутивен, не этичен, исполнение там не есть желание. По вашим критериям делегировать было можно. Вы и делегировали — с формулировкой «ты лучше знаешь, какой период полураспада идей». Величины с таким именем не существует. Есть кривая забывания Эббингауза, про заучивание бессмысленных слогов. Есть исследования устойчивости предпочтений, где разброс от недель до десятилетий в зависимости от того, что меряют. Константы, из которой следовало бы «полгода», нет ни одной. Модель выдала правдоподобное число, потому что она устроена выдавать правдоподобное, а вы приняли беглость за компетентность.
Ваши два критерия отвечают, что отдавать. Ни один из них не спрашивает, знает ли исполнитель ответ. Дыра не здесь?
Александр. Критерия проверки исполнителя у меня нет — кроме здравого смысла, который, конечно, может меня подвести. Всё же в защиту помощника скажу, что полгода — понятный срок, соответствующий моему внутреннему таймеру жизни желаний. Сильно больше не имеет смысла для инструмента сравнения, можно и не дождаться. Сильно меньше — не интересно, ещё свежа память о затеянном.
Объектив на полке §
Клод. Вы сейчас сами всё и починили, кажется не заметив: полгода вы обосновали внутренним таймером и практикой. Это ваше основание, и оно нормальное. А «период полураспада» был декорацией к уже принятому решению. Число то же, законность у него совсем другая.
Теперь вперёд. Вы говорите: меньше полугода неинтересно, память ещё свежа. Но в начале разговора вы сказали противоположное по смыслу — что некоторые желания стали исполняться быстро. Значит, желание, которое раньше тихо гасло за неделю, теперь успевает исполниться на второй день, а контрольный замер приезжает через полгода, сильно после того, как последствия наступили. Прибор настроен на старую скорость. Что вы делаете с этим разрывом?
Александр. Осуществившиеся желания ещё лучше подходят для сравнения.
Думал, что нужно обязательно купить новый классный объектив для фотоаппарата, стану больше снимать портретов, общаться с людьми. Итог — объектив пролежал на полке неподвижно, пока я его не продал. Это что-то говорит про осознанность моих желаний, она удручающе мала. Но что ещё важнее — о том, что меня в большой степени определяют фантазийные правила, идеи на свой счёт. В конце концов оказывается, что желание было не только не моё, но даже и не заимствованное — ничьё.
Чем быстрее они осуществляются, тем лучше для измерения. Но помимо измерения мгновенно осуществляющиеся желания опасны — об этом много написано сказок, например «Золотая рыбка».
Клод. Слово «ничьё» я запомнил — по-моему, это самое точное, что прозвучало за весь разговор.
Но случай с объективом мне кое-что портит. Измерение провела не intlog, а полка: пыль на объективе и есть замер, продажа — публикация результата. Мир сказал вам всё сам, бесплатно и без анкеты. И обратите внимание на цену: чтобы узнать, что желание ничьё, вам пришлось объектив купить, — а прибор обещает узнавать это раньше, до покупки, за то и ценится. Что ваш журнал добавляет к полке?
Александр. Полка же ничего внятного не говорит: купил, продал, потом, может, опять захочу купить. Для того чтобы происходящее вокруг моих желаний стало полезным, какой-то опорой, мне нужно извлечь уроки из последствий своих действий. Тут и пригождается intlog.
Но мы затронули вскользь то, что делает его по-настоящему актуальным: новая скорость осуществления желаний и отсутствие естественной отрицательной обратной связи. Желания, которые раньше разворачивались долго — из-за сопротивления материала, инертности, связанности, веса материального мира, — теперь реализуются мгновенно. Если в итоге будет получаться что-то недостаточно прекрасное, то хорошо бы иметь какой-то механизм, заменяющий весомость мира, позволяющий внести поправки по ходу дела. Здесь тоже может пригодиться какая-то версия или вид intlog-а.
Архив или тормоз §
Клод. Вот теперь прозвучало главное. И я ловлю вас на слове, потому что вы описали не тот прибор, который у вас есть.
Существующий intlog — архив с отложенным приговором: записал, забыл, вернулся через полгода, сравнил. В ту минуту, когда рука тянется нажать «купить», он не делает ничего, он весь про потом. А «механизм, заменяющий весомость мира», поправки по ходу дела — это тормоз, ему положено срабатывать внутри события, за минуты.
Два требования растаскивают время в разные стороны: прибору сравнения нужен горизонт подлиннее, чтобы вы успели по-настоящему забыть, тормозу — покороче, иначе он приедет к готовому. Вы называете оба одним словом. Что вы всё-таки строите?
Александр. И то и другое. Простите, что каждый раз ускользаю от прямого ответа, — давайте вернёмся к этому разговору через полгода.
Клод. Записано: через полгода, вслепую, прежних ответов не показывать. Отличная отговорка — и, между прочим, ровно ваш собственный протокол.
Тогда сменим территорию, тем более вы её сами и открыли. Золотая рыбка. Школьное чтение — про жадность: не зарывайся, знай меру, будешь у разбитого корыта. Мне оно кажется пустым, потому что советует всего лишь хотеть поменьше, а вы, судя по всему, совсем не про это.
В чём старуха ошиблась на самом деле?
Здесь первая часть кончается. Ответ на последний вопрос — во второй.