Следя за новостями о ChatGPT, GPT-4 и других больших языковых моделях (LLM) и экспериментируя с Discourse Chatbot 🤖, я чувствую одновременно воодушевление, страх и неуверенность в том, что это значит для онлайн-общения.
Интересно, как это повлияет на форумы и текстовую коммуникацию в целом. Также беспокоюсь, как это в конечном итоге отразится на голосовом общении.
Дойдёт ли дело до того, что большинство пользователей будут создавать посты с помощью ChatGPT и вставлять их в форумы копипастом? Если да, будут ли люди пытаться копипастить посты с форумов в ChatGPT, чтобы получить краткое содержание сгенерированного ИИ текста? Будет ли нам важно, написано ли что-то «органически» человеком или с помощью ИИ? Останется ли ценность форумов и веб-сайтов в целом такой же высокой, если люди смогут получать похожие ответы от ChatGPT? Как форумы смогут выделиться и сохранить свою актуальность?
Я пока не уверен, к чему всё приведёт, и очень хотел бы услышать, что чувствуют и о чём думают другие люди по этому поводу прямо сейчас
Только что получив от ChatGPT с полной уверенностью несколько совершенно неверных ответов о местных горнолыжных трассах, я рискну заявить, что не ожидаю, чтобы большие языковые модели (LLM) оказали огромное влияние на онлайн-дискуссии. Их ответы со временем станут лучше, но у них никогда не будет человеческой мотивации избегать ошибок в интернете. Кроме того, как языковая модель, оно «не способно выполнять физические действия, такие как поездка на горном велосипеде». Поэтому даже если оно сможет предоставить мне точную информацию о трассах, в нём будет отсутствовать человеческий аспект, который возникает при участии в местном форуме для любителей горного велосипеда.
Очевидно, я взволнован. У нас есть совершенно новая коробка с игрушками, и эти игрушки не похожи ни на какие, что были у нас раньше. Как и в большинстве технологий, их можно использовать как во благо, так и во зло.
Лично я чувствую, что нахожусь посреди «тумана ИИ». Раньше у меня было довольно чёткое представление о том, куда всё движется в ближайшие три-четыре года; однако большие языковые модели (LLM) и будущие эволюции этой технологии внесли свои коррективы. Я просто не знаю, где мы будем через год.
Если взглянуть узко на то, как быстро развивался Stable Diffusion за последние несколько месяцев, это просто ошеломляет. Если посмотреть на масштаб прогресса от GPT 3.5 до 4, это тоже невероятно впечатляет.
Несмотря на новый «туман ИИ», у меня есть несколько вполне реальных опасений:
Для меня на 100% очевидно, что форумы поддержки будут поглощены LLM и использованы в качестве обучающих данных для полезных чат-ботов. Преимущество здесь в том, что большая часть рутины в поддержке может исчезнуть, и вы будете получать ответы сразу. Однако недостаток в том, что будет создаваться меньше нового контента, что очень быстро может привести к порочному кругу, если это не будет предотвращено.
Я уверен, что спамеры и другие злоумышленники начнут активно использовать эту технологию, запуская атаки гораздо более изощрённые, чем что-либо, что мы видели до сих пор, что потенциально может погубить форумы, если мы не будем осторожны.
Эта вспомогательная технология может подорвать доверие. Когда вы читаете слова, которые я пишу, вы ожидаете, что они исходят от меня. Люди могут использовать ИИ не только для вычитки; он может полностью переписать наши слова. Хотите звучать как Малкольм Гладуэлл? Без проблем, это возможно. Какой уровень маркировки должны ожидать ответственные пользователи форумов? Люди бросят форумы, если перестанут доверять тому, что общаются с людьми, а не просто с факсимиле.
прочитайте это словами Малкольма
В современном мире вспомогательные технологии могут подорвать доверие способами, которые мы, возможно, не предвидели. Как потребители письменного слова, мы имеем определённые ожидания — а именно, что слова, которые мы читаем, являются подлинными и исходят от заявленного источника. Однако с появлением технологий ИИ люди могут манипулировать текстом способами, выходящими за рамки простой вычитки. По сути, они могут полностью переформулировать сообщение так, чтобы оно звучало так, как им нужно. Так что, если вы когда-либо мечтали звучать как Малкольм Гладуэлл или любая другая известная личность, эта технология может легко воплотить это в жизнь. Однако это поднимает вопросы о ответственной маркировке для пользователей форумов. Если люди больше не могут быть уверены, что общаются с другими людьми, а не просто с компьютерными факсимиле, они вполне могут полностью покинуть форумы. Уровень маркировки, необходимый для поддержания доверия в онлайн-дискурсе, является насущной проблемой, заслуживающей серьёзного рассмотрения.
Мы видели в прошлом форумы, ориентированные на SEO; мы увидим ещё более изощрённые и пугающие версии этого.
другие опасения, которые озвучил GPT 4
Существует риск, что использование LLM на форумах может создать культуру лени среди пользователей, которые слишком сильно полагаются на технологии ИИ для получения ответов и идей. Это может привести к снижению критического мышления и навыков решения проблем среди пользователей форумов.
Использование LLM на форумах вызывает этические опасения, связанные с конфиденциальностью и безопасностью данных. Пользователи могут испытывать дискомфорт от идеи того, что их личная информация и взаимодействия анализируются и обрабатываются системой ИИ, особенно если они не полностью осведомлены о том, как используются их данные.
Интеграция LLM на форумах может усугубить существующие предубеждения и неравенство, особенно если технология ИИ обучена на ограниченном наборе данных, который не отражает разнообразие опыта и точек зрения пользователей форумов.
Использование LLM на форумах также может привести к унификации дискурса, поскольку пользователи с большей вероятностью будут получать стандартизированные ответы, сгенерированные системой ИИ, вместо нюансированных и разнообразных отзывов от других людей. Это может подавить творчество и оригинальность в разговорах на форумах.
Существует риск, что интеграция LLM на форумах может привести к вытеснению человеческих модераторов и сотрудников поддержки, что может иметь негативные последствия для безопасности рабочих мест и качества поддержки, предоставляемой пользователям.
Несмотря на эти и другие страхи, я остаюсь как взволнованным, так и полным надежд. Будут найдены замечательные и чрезвычайно полезные применения этой технологии, и мы надеемся исследовать их в Discourse.
Огонь потушен; лучшее, что мы можем сделать здесь, — это очень осторожно подходить к нашим методам и экспериментам и пытаться сдержать огонь. Я надеюсь, что нам удастся сдержать огонь. Но знаете… «туман ИИ»…
Это затрагивает один из самых глубоких вопросов об ИИ: имеет ли значение, и если да, то каким именно образом, с кем я общаюсь — с обычным человеком, «усиленным» человеком или искусственным интеллектом. Назовём это «проблемой идентичности собеседника».
В определённом смысле люди всегда сталкивались с проблемой идентичности собеседника. В философии это иногда известно как «проблема других умов». Одно из самых известных её проявлений — «злой демон» Декарта, контекст его знаменитого «Я мыслю, следовательно, я существую». Вопросы о том, как мы будем или должны относиться к общению с ИИ, по сути, являются продолжением того же вопроса.
В контексте форумов это возникает интересным образом, потому что во многом мы уже принимаем высокий уровень неопределённости в отношении идентичности собеседника. Всё, что у нас есть для оценки собеседников, — это их слова и, возможно, их самопрезентация (например, аватар, имя пользователя и т. д.). К лучшему или к худшему, во многих случаях мы не слишком задумываемся об идентичности собеседника или, по крайней мере, готовы принимать эту неопределённость.
Этот контекст приводит меня к более осторожным выводам (или, возможно, вопросам) о том, как это влияет на форумы. Например, рассмотрим спам. Нам не нравится спам по многим причинам, но сосредоточимся на двух связанных:
Это неприятный шум, который делает форум менее привлекательным.
Он преследует коммерческие, вредоносные или иные цели, которые мы не хотим поддерживать.
Предположим, что применение больших языковых моделей (LLM) к «спаму» приведёт к уменьшению первого и более тонкому подходу ко второму. Если этого не произойдёт, то существующие методы борьбы со спамом справятся с ним. В некотором смысле называть это спамом — неточно; скорее, это «сложный автоматизированный маркетинг» или… «Сэм» (извините, не удержался).
Однако, как только мы попадаем в сферу «Сэма», мы неизбежно приближаемся к той же фундаментальной проблеме идентичности собеседника. Уже сейчас некоторые люди используют своё присутствие на форуме для тонкого, косвенного маркетинга. Вопрос в том, заботит ли нас идентичность того, кто это делает.
Я полностью разделяю ваши опасения по поводу влияния на рынок труда. Однако по схожим причинам я не уверен, что это приведёт к созданию более глупой, ленивой, некрасивой или более коммерциализированной экосистемы форумов. Если LLM нанесёт ущерб форуму, такой форум, вероятно, действительно не будет процветать, но его бывшие пользователи найдут другой форум, на который LLM не повлияла или который затронут более совершенной моделью.
Форумы служат площадками для обмена знаниями, интересами и человеческими связями. Если LMM преуспеет на этих рынках, это, несомненно, повлияет на рынок труда, но я не уверен, что это снизит спрос. Напротив, успех подразумевает обратное.
Возможно, это самый важный фактор? Каждый пост привязан к уникальной личности. Когда я вижу пост от вас или от (предположительно) реального Сэма, я оцениваю, насколько правдива эта информация. Я слышал Сэма в подкасте и разговаривал с вами на видеозвонке для экспертов в прошлом году, поэтому могу предположить, что за этими постами стоит хотя бы реальный человек.
Но действительно ли важен сам реальный человек? Если есть аккаунт под именем «Хэл Макдэйв», который предоставляет точную информацию в последовательном и связном стиле, то я тоже начну доверять этой информации и использовать её. Так разве это не нормально?
Ведь настоящая проблема никогда не заключалась в искусственном интеллекте, а скорее в искусственной глупости.
Нет. Сходите на короткий обзор по форумам и посмотрите, какой контент там на самом деле.
ИИ изменит мир систем управления контентом (CMS). Особенно сильно это ударит по миру в стиле WordPress. И там уже есть этот спамовый, готовый к копипасте контент вроде «список за год XXXX», «как сделать…» и тому подобное.
Это сообщество здесь — часть той аудитории, которая будет активно использовать и видеть активное применение ChatGPT и подобных инструментов. Но подавляющее большинство остального мира… не настолько. Они больше не пишут, не знают, как копировать и вставлять, и не используют ни одного из тех изысканных инструментов, которые, например, предлагает Discourse.
Вы, ребята, — розовые единороги Редкие экземпляры. Для вас любой ИИ-инструмент — это новая площадка или игрушка, потому что это часть вашей профессиональной деятельности и хобби.
Для CDCK это вопрос ближайшего будущего из-за крупных корпоративных клиентов. Они довольно часто используют Discourse для документации, помощи и поддержки. Для них такие функции поддержки не приносят дохода и требуют оплаты человеческого труда. Они будут в седьмом небе от счастья, когда появится ИИ, отвечающий клиентам, и им больше не понадобится команда поддержки. А разработчики тоже будут рады, ведь, как все мы знаем, техника не работает без бесконечной отладки и исправления ошибок.
Так что ИИ-решения не съедят доверие или что-то ещё, потому что такого доверия в данный момент тоже нет. Обычные пользователи не видят и даже не заботятся о том, исходят ли ответы и комментарии от кучи кода. Они полностью довольны новыми создателями мемов и фильтрами для TikTok Чёрт возьми, они уже платят приложениям для знакомств, где большинство собеседников — не люди…
Извините, ребята, но вы сейчас обсуждаете это в узком кругу
Но вместо автоматического создания контента, которое доступно только владельцам платформы, я бы хотел увидеть работающий AI-переводчик в реальном времени — потому что те, что есть сейчас, просто не работают.
Это помогло бы пользователям создавать любой текстовый контент, а также голосовой, и тогда форумы, чаты и всё остальное действительно достигли бы глобальной аудитории. Это тот инструмент, которого я жду.
Или что-то подобное. Sam высказывал идею использовать AI для автоматического размещения тем в нужных категориях. Было бы здорово получить действительно полезную персонализированную разметку на основе истории чтения и поиска. Что-то в этом роде.
Поэтому я не вижу в AI реальной угрозы для создания контента и общения. Я воспринимаю AI «просто» как инструмент, минимизирующий необходимость делать скучную работу
Кроме того, в интернете уже полно низкокачественного контента, который генерирует миллионы просмотров страниц. Если AI изменит это, я не считаю это угрозой. А если AI-решения будут создавать такой же ужасный шлак… ну, они погибнут, как и псевдо-автоматические чаты поддержки (которые на самом деле просто красивые обёртки для форм на основе email).
У меня те же чувства, но я надеюсь, что люди захотят продолжать заниматься человеческими делами, такими как обсуждение (а не только кодирование, копирование и вставка данных).
Инструменты ИИ могут быть чрезвычайно полезны для рутинных и повторяющихся задач, и я не думаю, что боты действительно смогут по-настоящему включиться в человеческие разговоры.
Это принципиально невозможно, и 99,99% данных в мире не изменят этого, потому что есть свобода, выбор и жизнь.
Жизнь — это изменение, и ИИ не может изменяться самостоятельно, не принципиально (за исключением «Скайнета», конечно).
Большинство людей продолжат искать в Google и нажимать только на первую ссылку.
Но всегда будет существовать 3% населения мира, которые решат заглянуть на первые 5–10 страниц или вместо этого будут использовать DuckDuckGo, чтобы по-настоящему исследовать интернет, как в старые добрые времена.
ИИ очень плохо справляется с социальными сетями из-за контроля, цензуры и массовых манипуляций, но не так сильно в случаях форумов.
Когда-то очень немногие люди в мире будут знать всё обо всех, но изменит ли это нашу возможность меняться?
Я так не думаю (и то же самое относится к квантовым технологиям, которые всё сломают сразу).
Несколько лет назад один из технических журналов соединил две программы, похожие на ELIZA: одна была разработана для общения в роли врача, другая — в роли человека с паранойей. Результаты были забавными, но это были не такие сложные движки, как GPT.
Если две копии GPT начнут переписываться друг с другом о спортивных командах, шахматах или выпечке (темы, по которым я сейчас веду дискуссионные форумы), будет ли это интересно читать? Я в этом сомневаюсь.
Это кажется честным ответом на вопрос автора оригинального поста. Мы, безусловно, живем в интересные времена
Я надеюсь, что форумы могут помочь нам сохранить представление о том, что значит быть человеком.
Термин «Искусственный интеллект» вполне может вызывать страх, и ИИ часто становился причиной хаоса в книгах, фильмах и т.д.
Мне интересно, чувствовали бы мы себя иначе, если бы все эти технологии, которые сейчас становятся вирусными (Midjourney, ChatGPT…), вообще не использовали термин «ИИ», а что-то другое, к чему у нас меньше культурных предубеждений.
Я хотел бы получить чат-бота с ИИ для автоматической первичной консультации, а также для сбора информации, чтобы сформировать подробный запрос поддержки для ветеринарных врачей.
Меня бы не удивило, если бы нечто подобное для ветеринаров уже было на рынке: некоторые медицинские учреждения начинают использовать их для экономии времени персонала.
Думаю, я не могу говорить от имени других. Но исходя из своего опыта, я в основном использовал форумы Discourse (и чаты Discord) для общения с людьми, объединёнными общими интересами к продуктам, которые находятся на стадии роста, где, на мой взгляд, общение с ИИ было бы не особенно полезным, например:
Форум приложения Auxy (музыкальное приложение, сейчас закрыт, но они перешли на Discord), где люди делились обратной связью по черновым трекам друг друга и давали советы, специфичные для этого приложения. До этого не существовало никаких письменных материалов об приложении, кроме того, что написало сообщество.
Форум Hopscotch (приложение для программирования методом перетаскивания, где я работаю и помогал заложить основы на старте). Опять же, до того как сообщество написало все эти посты, в интернете не было ни письменных материалов, ни подробных руководств по приложению, поэтому любой ИИ лишь пересказывал бы то, что написали мы.
Sky: Дети Света (игра, сообщество на Discord, но суть остаётся той же). Я играл в неё во время бета-теста, когда вообще не существовало никаких письменных материалов. Я также помогал писать музыкальный контент для вики и состою в сообществе ещё до того, как был создан весь этот контент.
Во всех случаях сам ИИ не «пользовался» этими приложениями.
Поэтому я не уверен, что ИИ был бы полезен, разве что для того, чтобы красиво оформить всё то, что создало сообщество, поскольку до того, как люди начали обсуждать эти темы, письменного контента по ним не существовало вовсе.
(Кажется, Маркс в «Капитале», наблюдая за рабочими фабрик в Англии, сказал что-то вроде: люди не используют машины; машины используют людей.)
Не то чтобы этот ИИ был не крут или бесполезен, просто, вероятно, он не был бы особенно полезен, если бы присутствовал в тех сообществах в то время, когда я там находился.
Я веду форум, который оказывает поддержку предпринимателям.
С ноября я создал @Robolivier — дружелюбного робота-искусственного интеллекта, который помогает пользователям, когда они упоминают его. Он также отвечает на каждое новое обсуждение, надеясь дать пользователю удовлетворительный ответ. Я добавил отказ от ответственности в каждое его сообщение.
Пока что пользователи чаще всего находят его забавным и полезным.
Я планирую обучить его на основе моих собственных взаимодействий на форуме — посмотрим, как это сработает.
Поскольку это платный форум, боты не являются для меня проблемой. Однако я понимаю, как открытый и бесплатный форум может быть заспамлен до полной потери смысла.
Ключевое различие заключается в том, что когда ИИ способен массово генерировать качественную информацию под произвольно большим количеством различных «идентичностей» (меток), становится дешёвым — в критические или прибыльные моменты — нарушать доверие, которое было ошибочно сформировано вокруг этих идентичностей. Как человек, я не хочу нарушать доверие, которое я построил с другими, не только из-за совести, но и из-за разрушительного влияния на мою репутацию. Однако идентичность, искусственно привязанная к ИИ, гораздо более расходна и уязвима как для капиталистической жадности, так и для политических интриг.
Так как же я себя чувствую? Испытываю страх перед будущим. Эта технология с высокой вероятностью разрушит нас социально в ближайшем будущем (в течение нескольких лет), а в конечном счёте (в течение десятилетий) уничтожит физически, если мы не найдём способа её остановить.
На одном из форумов, которые я веду, есть человек, которого мы уже много лет подозреваем в том, что он пишет под как минимум двумя разными именами с разными образами: один более конфронтационный, чем другой. Недавно он оступился и подписал пост с одного адреса электронной почты своим именем от другого, а затем подписал ещё один пост третьим именем. Так что теперь мы точно знаем!
Существует очень интересная книга, где известных писателей подвергают статистическому анализу по паттернам использования слов. Это становится особенно увлекательным, когда книги написаны несколькими авторами: многие поздние книги Тома Клэнси были в значительной степени написаны другими писателями.
Именно с помощью такого статистического анализа было установлено, что Дж. К. Роулинг также писала под другим именем, ещё до того, как она сама подтвердила этот факт. Этот метод также применялся для анализа «Записок федералиста»: в 1962 году был сделан вывод, что, как многие и утверждали, Александр Гамильтон написал довольно много из них, включая несколько, авторство которых ранее приписывалось другим. (В то время они публиковались анонимно, поскольку считалось, что знание авторов может снизить их политическую эффективность.)
Так что, возможно, есть смысл внедрить в наши форумы интерфейсы, похожие на ChatGPT, если мы сможем использовать их для анализа стиля письма наших участников.
Редкие экземпляры. Для вас любой ИИ-инструмент — это новая площадка или игрушка, потому что это часть вашей профессиональной деятельности и хобби.
