Альтернатива

Шумиха вокруг так называемого искусственного интеллекта, пожалуй, похлеще шумихи на заре повсеместного распространения интернета. Но ничто не ново под луной. Думающие машины волновали людей всегда.

Дж. Свифт в третьей части своего сатирического романа про путешествие Гулливера рассказал про такую машину профессора в Лагадо:

«Первый профессор, которого я здесь увидел, помещался в огромной комнате, окруженный сорока учениками. После взаимных приветствий, заметив, что я внимательно рассматриваю раму, занимавшую большую часть комнаты, он сказал, что меня, быть может, удивит его работа над проектом усовершенствования умозрительного знания при помощи технических и механических операций. Но мир вскоре оценит всю полезность этого проекта; и он льстил себя уверенностью, что более возвышенная идея никогда еще не зарождалась ни в чьей голове. Каждому известно, как трудно изучать науки и искусства по общепринятой методе; между тем благодаря его изобретению самый невежественный человек с помощью умеренных затрат и небольших физических усилий может писать книги по философии, поэзии, политике, праву, математике и богословию при полном отсутствии эрудиции и таланта. Затем он подвел меня к раме, по бокам которой рядами стояли все его ученики. Рама эта имела двадцать квадратных футов и помещалась посредине комнаты. Поверхность ее состояла из множества деревянных дощечек, каждая величиною в игральную кость, одни побольше, другие поменьше. Все они были сцеплены между собой тонкими проволоками. Со всех сторон каждой дощечки приклеено было по кусочку бумаги, и на этих бумажках были написаны все слова их языка в различных наклонениях, временах и падежах, но без всякого порядка. Профессор попросил меня быть внимательнее, так как он собирался пустить в ход свою машину. По его команде каждый ученик взялся за железную рукоятку, которые в числе сорока были вставлены по краям рамы, и быстро повернул ее, после чего расположение слов совершенно изменилось. Тогда профессор приказал тридцати шести ученикам медленно читать образовавшиеся строки в том порядке, в каком они разместились в раме; если случалось, что три или четыре слова составляли часть фразы, ее диктовали остальным четырем ученикам, исполнявшим роль писцов. Это упражнение было повторено три или четыре раза, и машина была так устроена, что после каждого оборота слова принимали все новое расположение, по мере того как квадратики переворачивались с одной стороны на другую. Ученики занимались этими упражнениями по шесть часов в день, и профессор показал мне множество фолиантов, составленных из подобных отрывочных фраз; он намеревался связать их вместе и от этого богатого материала дать миру полный компендий всех искусств и наук».

Вот тебе и первый «ЧатГПТ». Правда, Свифт не предсказатель, он издевался над современными ему учёными устремлениями, не имеющими никакой научной ценности. Впрочем, машину Свифт придумал не сам, она существовала в реальности.

Быть может, не первую, но наиболее известную думающую машину изобрёл мистик XIII века майоркинец Луллий. Так описывает предельно краткую историю его жизни Ю. М. Антоновский (переводчик Ницше, Дюринга, Фейербаха, Шиллера и автор биографии Бруно):

«В молодости он вел крайне развратную жизнь. Однажды дама, которую он преследовал своими ухаживаниями, чтобы отвязаться от него, обнажила перед ним свою изъеденную раком грудь. Это так на него подействовало, что он впал в мистицизм, оставил свое семейство и стал вести отшельническую жизнь, чтобы среди аскетических упражнений придумать способ неопровержимых доказательств, которые должны были служить средством к обращению неверующих в христианство. С этою целью он и изобрел свою логико-метафизическую счетную машину».

Машина Луллия представляла собой нечто подобное описанному Свифтом. К слову, Дж. Бруно, с одной стороны, пытался усовершенствовать машину Луллия, с другой — называл его галлюцинирующим ослом. С учётом проблематики галлюцинаций нейросетей звучит актуально.

Словесная и не только комбинаторика пользовались популярностью в доцифровые эпохи (неплохая статья про многие такие курьёзы культуролога Ходнева).

История же компьютерного разума обычно начинается с фамилии математика, который пал в неравном бою с английской гомофобией. В 1950 году Тьюринг опубликовал ставшую культовой статью на модную тогда тему «Сможет ли машина когда-нибудь мыслить?». И раньше и позже по этому вопросу высказывались многие мыслители. Оригинальность Тьюринга состояла в том, что он демонстративно снял сам вопрос: «Первоначальный вопрос — “способны ли машины мыслить?” — я считаю слишком бессмысленным, чтобы его обсуждать». И вместо этого предложил уточнить мысль так, чтобы можно было однозначно ответить «да» или «нет». Так он придумал тест Тьюринга, то есть игру в имитацию: если машина сможет в переписке убедить, что она человек, значит — мыслит.

Впрочем, в финале своей статьи Тьюринг всё же заключает, что машины в конце концов будут успешно соперничать с людьми во всех чисто интеллектуальных областях.

От одного оригинального «уайльдовца» переходим к другому.

Наш современник — еврейский, западный футуролог и очень известный интеллектуал Юваль Харари. Он, например, считает, что развитие искусственного интеллекта позволит сосредоточить в руках узкой группы невиданную доселе власть, а затем и вовсе ИИ поработит человечество в том смысле, что все решения и всё управление будут во власти алгоритмов. Харари — советчик Обамы, Меркель, Макрона, Гейтса, Цукерберга и других. В общем, очередной «Закат Европы», «Конец истории» и т. п.

Однако интересно не это, интересен его тезис о том, что ИИ взломал операционную систему человеческой цивилизации — язык.

В некотором смысле это так, если иметь в виду, что ИИ как технология получил развитие прежде всего в виде больших языковых моделей. Действительно, для математиков, кибернетиков и техников оказалось открытием, что язык — это не просто важнейшее средство общения или система знаковых единиц, а оболочка самого мышления. Строго говоря, мышления без языка не бывает.

Охотники-собиратели Амазонии, в языке которых отсутствуют числительные, легко выполняют вычисления на предметах перед глазами, но не могут воспроизвести число вещей по памяти. Точно так же, как мы не способны по памяти воспроизвести ориентацию предметов относительно сторон света, потому что мы мыслим в пространстве от своего угла зрения («право», «лево», «верх», «низ» и т. д.). А, например, некоторые австралийские аборигены только так и могут, потому что в их языках пространственная ориентация опирается на стороны света («ресничка в западном глазу»).

Поэтому логично, что язык стал ключом к имитации мышления.

Текущие ведущие большие языковые модели значительно преуспели в имитации мышления. Уже сейчас Трампу никакой супергомункул не нужен, он может любой вопрос задать детищу своего друга «Гроку» и получить ответ. Хоть когда вторгаться в Венесуэлу, Панаму, Канаду, хоть какие цели преследует Россия в СВО. Тот ответит что-нибудь обязательно, причём складно и в тему.

Но ответ нейросети будет всецело зависеть от данных и их разметки, которые были использованы при машинном обучении и в контексте поставленной задачи. В частности поэтому, чем более подробно сформулирован вопрос или поставлена цель, тем качественнее модель выдаст результат. Но в любом случае это будет генерация слов, а не мышление. Впрочем, многие живые люди не проявляют признаков мышления, тоже лишь генерируя слова, эмоции и поступки.

Трамп может прикрутить «Грок» к «Минитменам» и подключить ленту новостей, чтобы нейросеть решала, когда и по кому открывать термоядерный огонь. И она решит, не сомневайтесь. Но её решение будет зависеть от поставленных задач, качества и количества алгоритмов. С тем же успехом можно отдать ядерный чемоданчик Мелании.

Другое дело — натаскать «Грок» разрабатывать планы внезапных специальных военных операций известными силами в тех или иных местах. В такой задаче нейросеть обгонит любого, даже самого опытного штабиста не по качеству, но по скорости.

Другое дело — прикрутить нейросеть к рою дронов и отправить, преодолевая ПВО противника, уничтожать стратегический объект. Хотя погодите! Это уже сделали в российской армии.

В общем, в военно-стратегическом аспекте перспективы нейросетей огромные, но в плане внедрения в системы вооружений, связи, радиоэлектронной борьбы, логистики, разведки и т. п.

А то, о чём задумывался Тьюринг, то есть сконструировать машину, отправить её обучаться в школу, обучить, воспитать и таким образом на выходе получить суперумного терминатора, невыполнимо.

В общем и целом компьютеризация является естественным продолжением электрификации, а, в свою очередь, ИИ — компьютеризации. ИИ — это новый, более совершенный тип компьютерных программ.

Удивит ли кого-то, если ему покажут программу, которая разнообразно отвечает на однотипные вопросы или выполняет узкий функционал? Разумеется, нет, такие программы существуют десятки лет и работают по специально написанным алгоритмам. Суть нейросетей, особенно больших языковых моделей, в том, что нейросеть на основе огромного массива размеченных данных и системы алгоритмов пишет сама для себя миллиарды новых алгоритмов. Таким образом, мы имеем компьютерную программу с чудовищно большим функционалом, особенно, если ввод/вывод задач осуществляется посредством языка. Перспективы огромны, но результаты всегда будут в пределах некоторых средних значений.

Можно «Дипсику», «Квену», «Алисе», «Гигачату» и прочим ИИ специальными инструкциями сузить контекст, то есть набор используемых алгоритмов, чтобы как бы специализировать функционал под конкретную задачу, но всё равно максимальная точность ответа будет ограничена чем-то вроде стереотипов или шаблонов. Естественно, можно утверждать, что нейросети способны производить какие-то новые идеи, только если считать таким производством комбинацию уже имеющихся смыслов по типу машины Луллия.

Притом допиливание ИИ под наиболее частные задачи показывает прекрасные результаты. Например, за последний год все ведущие продукты хорошо освоили пересказ текста, составление конспекта, переформулировку. Лучше стали искать в интернете, в книгах и статьях. А создание изображений у «Гугла», «Реве», «Флекса» и «Соры» просто вышло на новый уровень.

Развитие ИИ показывает, что, кроме прикладных задач, самым востребованным оказался такой способ их использования, как ассистент, виртуальный собеседник. Созваниваются нейросети и поддерживают диалог действительно уже очень неплохо, Тьюринг был бы в шоке. Но тест пока не пройдут.

И это, опять же, неудивительно, потому что язык позволяет наращивать контекст беседы, а чем больше контекста, тем сильнее разговор похож на магию общения.

Так что социальное значение и использование нейросетей будут только возрастать. А это значит, нужны вычислительные мощности, дата-центры, электроэнергия.

Причём в США всё делают очень и очень задорого, в Китае делают то же самое намного дешевле, а у нас вообще за копейки (смотри инвестиции). И не сказать, что видна принципиальная разница. Если не учитывать генерацию картинок, по которой Америка пока всех побеждает.

Самое прогрессивное — это, конечно, не разговоры по душам с ботом, не переводчик и не помощь школоте в выполнении домашки. Самое прогрессивное — это внедрение ИИ в промышленное производство. А с этим пока у всех проблемы, нужен более качественный ИИ. Притом что наращивать массив данных для машинного обучения уже неоткуда (всё, что есть, загружено), а совершенствование писанных человеком алгоритмов и разметки данных — процесс трудозатратный и долгий.

С одной стороны, кто первым соединит ИИ и производство, тот получит серьёзное преимущество. С другой стороны, вряд ли это будет какой-то взрывной переворот всего хозяйства типа электрификации, конвейера и строительства железных дорог. Скорее всего, внедрение ИИ в производство будет медленным и ползучим, постепенно перепрошивающим процессы, как в своё время все машины, конвейеры, станки меняла компьютеризация (ЧПУ).

В дальнейшем почти все компьютерные программы превратятся в ИИ, в том смысле что будут содержать компоненты или модули нейросетей. Как минимум для совершенствования связи человека и компьютера за счёт использования естественного языка.

Опасность же ИИ заключается не в том, что он поработит человечество или лишит всех работы.

Первая опасность ИИ состоит в том, что он уничтожит интернет. Интернет превратится в ботофейконет: будет наполнен под завязку сгенерированным словесным, визуальным и аудиосодержанием.

Дело ещё в том, что максимальная скорость создания контента одним человеком равняется скорости течения времени. Одна минута жизни равна одной минуте видео или аудиозаписи. ИИ же может за одну минуту сгенерировать час-два-три видео или аудио. То есть скоро очень быстро наступит дефицит памяти и, стало быть, или интернет сократится во времени жизни данных (большинство информации будет исчезать, как сторис), или загрузка информации в Сеть либо станет платной, либо будет проходить цензуру.

Хотя чего этого опасаться, если интернет уже и так страшная помойка? Может, после перезагрузки из-за ИИ он станет лучше и чище.

Вторая опасность ИИ состоит в том, что псевдорациональностью ИИ будут прикрываться непопулярные политические решения и социальные явления. Если в массах будет нарастать доверие к ИИ, то ИИ станет фактором манипуляции.

Хотя всё это не ново: ИИ станет такой же ширмой власти, как и демократия (большинство проголосовало...), наука (научные выводы говорят...), статистика (статистика свидетельствует...), социология (опросы показывают...) и многое другое.

Третья опасность ИИ классическая: сбор данных о пользователях. Задумывались, почему многие сервисы ИИ бесплатны? Во-первых, всем нужны живые люди, потому что чем у тебя больше живых людей, тем больше данных для дальнейшего машинного обучения и совершенствования продукта. Во-вторых, переписка с ИИ позволяет больше знать о человеке. А значит, манипулировать им прежде всего в качестве объекта маркетинга. В-третьих, шпионаж: как промышленный, так и государственный. Сбор и анализ таких больших и чувствительных данных — настоящая находка, не хуже соцсетей.

Анатолий Широкобородов,
специально для alternatio.org