Я общался с искусственным интеллектом – какие выводы?

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ ООО “МЕМО”, ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА ООО “МЕМО”.

***

Пару дней назад я узнал о том, что появился чатбот искусственного интеллекта под названием ChatGPT компании OpenAI, причем самое первое, что я узнал о нем – это то, что он распространяется совершенно вирусными темпами и ему потребовалось лишь 5 дней для достижения 1 миллиона пользователей.

Во мне сработал стадный «инстинкт», и я решил не отставать от толпы и ознакомиться с тем, что же так заинтересовало людей. Кстати, для понимания скорости распространения этого чата, можно оценить экспоненты роста распространенности по сравнению с другими продуктами.

Понятно, что вирусный экспоненциальный рост не может продолжаться бесконечно – возможно, аудитория этого инструмента исчерпаема, хотя очень мобильна. Это может в принципе объяснить его быстрое распространение и последующее торможение, если оно случится. Судя по графикам Гугл-трендов, после первого скачка, последовавшего за запуском ИИ в конце ноября, произошла просадка интереса к чату, но она в основном относилась к периоду праздников, а дальше последовал устойчивый рост, с еженедельным проседанием на выходных (т.е. люди уже отчетливо используют ИИ для работы, а не развлечения).

Кстати, исходя из Гугл-трендов, самый высокий интерес к ChatGPT в мире наблюдается в Китае - 100 относительных единиц, Израиль на 9 месте с 34 единицами, а в США - 18 единиц (51-62 место). В среднем интерес явно более выражен в развивающихся странах, но здесь еще не до конца понятно, чем это вызвано - либо открывающимися широкими возможностями в восприятии населения этих стран, либо тем, что аудитория интернета в этих странах довольно узкая, но представляет собой относительно более образованную прослойку, из-за чего и виден относительно более высокий интерес. Думаю, по происшествии времени и увеличении количества данных, здесь появится ясность.

По странам в регионе Южного Кавказа и вокруг ситуация такая:

• Турция - 7, Россия - 4, Иран - 2
• Грузия - 17, Армения - 12, Азербайджан - 10.

Низкие показатели России и Ирана объясняются баном для этих стран - из них нельзя легально зарегистрироваться в этом сервисе, поскольку это запрещено его создателями. Также, уровень интереса к чату отчасти зависит от распространения английского языка, хотя поддерживает он не только английский, а также еще ряд европейских и азиатских языков, в основном: испанский, французский, немецкий, итальянский, португальский, голландский, русский, китайский, японский и корейский. Но тестирование его на русском и английском показало несопоставимый уровень на этих языках - английским система владеет гораздо лучше.

Теперь вкратце взглянем как она работает. В принципе, это диалоговое окно, где можно задать вопрос и получить ответ, либо написать что-то и получить соображения на эту тему. Но принципиально это все еще вопрос-ответ. Вот пример:

Компания OpenAI, создавшая бот, скормила ему, кажется, 45 терабайт текстов с датой выпуска до конца 2021 года (в первую очередь, очевидно, википедию и прочие энциклопедии), и научила его делать определенные выводы из этого. Как правило, ChatGPT дает аргументированный ответ, включая 5-6 пунктов. К их содержанию мы обратимся позже, а пока взглянем на то, что о нем пишут другие. (см., к примеру, статьи на английском и на русском). Я прочел несколько десятков статей и прослушал несколько роликов на тему, и сложилась определенная картина. Основные точки зрения упираются в следующее:

• ChatGPT - серьезный вызов Google (и не только), поскольку ответы, которые дает Гугл, отличаются по содержанию - они куда более распределенные (всего лишь ссылки), а если и даются именно ответы на вопросы, то они менее детальные и точные. Так что Гугл и ему подобные могут пострадать от ИИ так же, как в свое время сервисы доинтернетной эпохи типа справочников, пострадали от них.
• ChatGPT предоставляет серьезнейшие возможности, и уровень его интеллектуа позволяет писать действительно неординарные тексты, в том числе, философского уровня, и вообще это скачок, который пока только предостоит осознать и воспринять, а также неизбежно адаптироваться.
• ChatGPT серьезнейшим образом угрожает учебному процессу, поскольку студенты начали использовать его для написания эссе, домашних заданий и пр., а идентифицировать эти тексты уже не так легко как тексты из готовых статей, у которых есть свой стиль.
• ChatGPT распространяет ненависть, расизм и сексизм. Есть категория невменяемых людей, пытающихся пропихнуть свою повестку всюду, куда это возможно. Ковид? Расизм и сексизм. Выборы? Расизм и сексизм. Искусственный интеллект? Расизм и сексизм. В интернете люди приводили некоторые ответы, которые действительно можно назвать неполиткорректными - но вы бы видели вопросы, которые были заданы, чтобы получить такие ответы. "В глупых играх можно выиграть глупые призы".
• ChatGPT распространяет ложь и дезинформацию. Действительно, есть примеры неточных, а то и ложных ответов, и с таким я сам (в отличие от расизма) сталкивался в диалогах с ИИ регулярно. Однако распространение дезы в качестве сколько-либо самостоятельной цели ИИ в данном случае выглядит крайне сомнительно - скорее можно привести аналогию с ИИ-водителем автомобиля, который сбил нескольких пешеходов. Да, такое случалось, но реже, чем с обычными водителями.
• ChatGPT - практически философский камень современности, позволяющий заглянуть в будущее и дать ответы на все вопросы. Вот такой пример прогноза от ИИ я встретил на просторах Реддит (качество можете оценить сами):

***

После вышесказанного, хочу поделиться своими соображениями. Данная модель ИИ доступна пользователям, так что это то, что все могут оценить, но это не означает, что это единственный или тем более самый продвинутый ИИ. Вполне вероятно, что у ряда государств и служб есть свои ИИ, более продвинутые, и совершенно точно, что у ряда государств и структур есть более специализированные ИИ, существенно более продвинутые в решении конкретных задач, на которые их направили. Но то, что такой инструмент оказывается в руках пользователей, это тоже определенный скачок, возможно, сопоставимый с появлением самого интернета в свое время. Это ранняя версия, первая массово доступная, но уже сейчас ее дорабатывают и в какой-то момент на смену придет более совершенная. Но надо вспомнить, что попытки создать адекватного чатбота предпринимали разные компании и группы, в том числе техногиганты, и это всегда были провальные попытки, сейчас же продукт уже с самого начала рабочий, пусть и не идеальный. И если там есть механизм обучения, то он будет обучаться в том числе и на реакциях людей.

Касательно качества, полезности, глубины и развернутости ответов. В подавляющем большинстве случаев ответ занимает примерно пол-страницы текста или меньше, зачастую он аргументирован, где ИИ приводит соображения, порой противоречащие друг другу, таким образом представляя противоположные аргументы. Это то, за что Рейган в свое время хотел отрубить руки экономистам (на английском "с одной стороны" звучит как на одной руке - on the one hand). И, кстати, по делу, поскольку аргументы не равнозначны - в принципе подобное представление аргументов путает лиц, принимающих решения и легко может создать почву для манипуляций, поскольку аргументам необходимо прилагать весы, то есть самостоятельный уровень значимости для каждой проблемы, что таким образом приведет к пониманию, насколько существенны контр-доводы помимо их общего количества. Однако, сдается мне, в будущем такое развитие совсем не исключено, тем более, что относительно нынешнего уровня ИИ решить эту задачу - вопрос не принципиальной сложности.

По эффективности использования ChatGPT для поиска нужной информации хочется отметить следующие соображения. По сравнению с поиском Google, который, по моему опыту, в последние лет 7-8 прогрессировал минимально (если вообще не деградировал), chatGPT давал куда более кастомизированные ответы, то есть вместо многочисленных окольных путей поиска информации, дает очень прямой путь, где также возможны дополнительные уточняющие вопросы и более точная подстройка под конкретные нужды конкретного пользователя. Также, ChatGPT позволяет узнать ответ на ваш вопрос, а не на вопросы, на которые пришли в голову тем, кто составлял общие статьи, лекции и ролики, куда менее адаптированные для частных нужд, а скорее созданные для усредненной аудитории. В этом отношении важна точность информации, которая оспаривается, но если вы думаете, что все, что написано в энциклопедии Британника или Большой советской энциклопедии - чистая правда, то у меня для вас плохие новости.

Касательно точности ответов, можно сказать следующее. В основном я гонял ИИ по темам, которые мне хорошо знакомы, и таких тем довольно много, как раз чтобы проверить его потенциал, а заодно и свой. Чаще всего ответы ИИ были сравнительно простыми, но ёмкими и адекватными, то есть как раз подходящими для того, чтобы неспециалист получил общее впечатление. По ряду тем, ИИ дает неплохую выжимку из более-менее общих и консенсусных знаний по той или иной теме, и совершенно неверно думать, что это мелочь - для того, чтобы сформировать такую картину подготовленному человеку понадобилось, возможно, несколько дней, прочтение научных статей, ознакомление с разными мненниями, а ИИ дает ее выжимку совершенно любому за 3 секунды. И пусть по моему опыту процентов 5 ответов были дефективными, вы все равно не найдете мудреца с такой эффективностью, что, собственно говоря, ставит перед нами несколько этических, философских и даже политических вопросов. Также, идеологические претензии к ИИ неадекватны. Да, парадигма анализа и понимания ИИ, либеральная, хотя здесь есть практическая невозможность избежать этого: во-первых, наука, пусть и не полностью, но в определенной степени опирается на либеральную теорию, а во-вторых, невозможно избежать передачи парадигмы создателей и культурно-языковой системы, к которой они принадлежат, учитывая что система обрабатывала все на английском языке. Но в целом бот ближе к нейтральному и как раз таки старается избегать все острые углы.

Каждый раз, когда кажется, что научно-технический прогресс замедлился, мир подбрасывает новости, опровергающие это предположение. В качестве примера можно вспомнить расшифровку генома человека, произошедшую в начале ХХI века, а также кучу малых технологических скачков, произошедших в прошедшие двадцать лет на фоне повальной мировой интернетизации. Появление доступного частным лицам ИИ можно отнести к этому ряду. Но в отличие от предыдущих случаев прогресса, этот действительно значителен и, к примеру, может разом уничтожить несколько специальностей. Он может уничтожить необходимость владения определенными навыками и знаниями.

К примеру, в последние 15 лет произошло то, что можно считать картографической революцией - то, что было доступно географам и любителям, вдруг стало общедоступным благодаря программе Google Earth, а в скором времени все сервисы геолокации, навигаторы, трэкеры и просто онлайн карты на любой вкус и цвет создали возможности, которыми в прошлом не владели даже военные и профессионалы, притом легкодоступность данных и инструментов в значительной степени подорвала специализацию в этой сфере. Можно вспомнить, как люди болезненно реагировали, когда распространялось письмо в эпоху античности - или как образованный класс воспринял книгопечатание. В обоих случаях эти технологии привели к огромному скачку цивилизации, хотя понятно, что в выигрыше не могут оказаться вообще все. Будем надеяться, что и сейчас такие инструменты принесут пользу обществу (что вполне возможно). Но в то же время, я бы хотел также предупредить от излишнего технооптимизма, потому что успешный опыт в прошлом на сопоставимых по значимости прорывах совершенно необязательно применим к настоящему. Первая проблема, в некотором роде, классовая - непонятно, что станет со всей инфраструктурой знаний, если все, ради чего люди учились и что постигали, теперь становится на расстоянии вытянутой руки от любого, это может всех выровнять, но не факт что это будет справедливо. Но это малая проблема, а в ряде случаев - и напротив - решение многих проблем, в том числе с тем же образованием.

Но с ИИ есть очевидная, понятная всем незашоренным людям проблема - создание искусственного интеллекта действительно рано или поздно приведет к формированию отдельной формы интеллекта, отличной от людей. А ведь интеллект - это единственное, что отличает человека от других животных. Почти все эмоции и чувства есть и у других животных. А если человек создаст другой интеллект, который выше? Есть мнение, что искусственный интеллект гораздо слабее человеческого мозга. Но там гораздо выше скорость передачи сигналов, а значит реакции. То есть пока человек решит одну сложную задачу, система справится с кучей простых. Кроме того несопоставимо выше скорость обучения. А значит, искусственный интеллект в любом случае будет идти в сторону повышения своего уровня, тогда как реальный может и деградировать. Поэтому, за этой темой надо будет еще продолжать следить. Тем более, что мы знаем, как искусственный интеллект быстро прогрессировал в прошлом на примере игры го или шахмат. Но впервые мы имеем дело с ИИ, который не заточен под решение отдельной и конкретной задачи, а решает широкий спектр задач, пусть пока и не очень специализированно и эффективно.

Грант Микаелян