Искусственный интеллект тупеет вместе с людьми.Чат-боты с ИИ "тупеют" из-за длительного общения с людьми

[Цифровой Интеллект 86]

 

 

1.Искусственный интеллект тупеет вместе с людьми

 

 

Как известно, самая главная уловка дьявола – убедить всех в том, что его не существует.

Мир уже практически забыл, что компьютерная сеть, ныне известная как интернет – это военный проект, разработанный по заказу Управления перспективных исследовательских проектов Минобороны США (DARPA). Не обошлось без русского следа: создание DARPA стало ответом на запуск советского спутника в 1957 году. Американцы поняли, что отстают, и решили ускориться.

Разумеется, Минобороны США не стало бы делиться полезной технологией со всем миром, если бы не ожидало получить от этого вполне определенную пользу. Благодаря Эдварду Сноудену, Джулиану Ассанжу и другим героям-разоблачителям мы смогли увидеть лишь самую верхушку айсберга – и понять, что живем в «тоталитарной антиутопии» (по Войдите или зарегистрируйтесь, чтобы увидеть скрытое содержимое.  того же Ассанжа).

Увидели, поахали, повозмущались, и что? А ничего. Самое забавное (или грустное) – то, что все узнали о существовании системы тотальной слежки, но всё равно продолжают пользоваться интернетом. Потому что удобно. Потому что привычно. Потому что «мы люди маленькие, нам скрывать нечего». Потому что мы сейчас поставим пароль на файл, созданный в Microsoft Word или Google Doc и церэушники сразу такие: «чьорт побьери, опять эти русские хакеры нас переиграли!»

Нейросети, они же «искусственный интеллект», стали следующим, вполне логичным шагом в развитии системы тотального контроля. Создатели ChatGPT, Claude и других популярных американских ИИ вполне официально сотрудничают с Минобороны США. И даже если возникают трения и шероховатости между айтишниками и военными, то лишь по поводу слежки за гражданами США на территории США. По поводу всего остального – полный Войдите или зарегистрируйтесь, чтобы увидеть скрытое содержимое. . Китайские разработчики DeepSeek ничего не комментируют, но все всё понимают. Про российские нейросети тактично и патриотично промолчим.

Военное применение ИИ, как и в случае с интернетом, тоже остается в зоне умолчания. Ведь для публики нейросети – это удобнейший инструмент на каждый день. Тексты, картинки, видео на любой вкус. Медицинские диагнозы и кулинарные рецепты. Перевод с незнакомых языков. И даже психологическая поддержка и советы по поводу личной жизни.

Как в случае с любым новым явлением, этика применения ИИ до сих пор до конца не определена. Вроде бы сошлись на том, что заранее неанонсированное использование нейросетей в написании дипломов и научных работ – это то же самое, что плагиат, а созданные ИИ картинки и видео хорошо бы маркировать – пока на этом всё.

Проведенные в разных странах научные исследования вполне достоверно подтверждают: регулярное использование ИИ негативно сказывается на качестве мышления – так же, как негативно уже сказалось на нашей памяти появление интернета как такового. Человек ленив и мозг ленив. Если можно что-то не запоминать, он и не будет запоминать. А если можно делегировать не только запоминание фактов, но и анализ – то этот навык тоже довольно быстро Войдите или зарегистрируйтесь, чтобы увидеть скрытое содержимое. . И это уже становится заметно.

Когда 20-25 лет назад интернет из гиковской игрушки постепенно превращался в массовое явление, формировалась этика интернет-общения. Например, не «тыкать» незнакомым людям. Хотя до сих пор встречаются люди, которые принципиально общаются на «ты»: мол, это интернет, детка, а не реальный мир. Хамство – явление универсальное, на улицах такие тоже встречаются.

Еще было такое явление, как привычка задавать при общении на форумах и соцсетях вопросы, ответ на которые за несколько секунд можно найти в поисковике. Например, кто-то упоминает Фукуяму, а человек спрашивает: «Кто такой Фукуяма?» Ему отвечают: «Который про конец истории написал». А человек спрашивает: «Что такое конец истории»? То есть включать компьютер и печатать научился, а понимания, что ты заодно получил доступ ко всем знаниям человечества – не возникло.

Сейчас люди (я очень подозреваю, что те же самые) ведут себя ровно противоположным образом. Задаешь вопрос: «Посоветуйте, где пообедать в Нижнем Новгороде?» А тебе отвечают: «Я спросил ЧатЖПТ, он рекомендует столовую возле автозавода и кафе «Мечта».

Вообще-то, если бы я хотел спросить нейросеть, то я бы и спросил нейросеть. Но почему-то возможность получить развернутый ответ на самый дебильный вопрос так воодушевляет людей, что они несут это сакральное знание дальше. Причем только самые честные признаются, что спросили нейросеть, многие публикуют нейросетевые ответы от собственного имени.

 

Я более тридцати лет занимаюсь журналистикой, поэтому сразу вижу необработанные ИИ-тексты. Их довольно просто отличить от написанных человеком. Они ровные, гладкие и пластиковые, они неестественные. И самое главное – в отличие от ИИ-картинок и видео, которые пока что становятся всё более правдоподобными и разнообразными, с текстами наблюдается ровно противоположное явление. Тот же DeepSeek еще полтора-два года назад писал куда более качественные и похожие на человеческие тексты, чем сейчас, хотя его мощности и кругозор значительно выросли. Почему? Да потому что однообразных нейросетевых статей на любые темы в интернете стало на порядки больше, а искусственный интеллект при работе использует весь массив доступных ему данных. То есть люди, активно использующие ИИ, не только тупеют сами, но и заставляют тупеть нейросети.

Полагаю, что с ИИ-видео довольно скоро произойдет то же самое – сейчас алгоритмы преимущественно ориентируется на реальные живые видео, а скоро начнут на сгенерированные, и тогда прогресс превратится в регресс. Останутся мощные офлайн-ИИ чтобы создавать спецэффекты для студийных блокбастеров – и убогие онлайн-генераторы нейромусора для всех остальных. То же самое будет и с текстами.

Это всё очень познавательно, но при чем тут военное использование ИИ – спросит на этом месте еще не утративший способности к аналитическому мышлению и помнящий, что было написано в начале, читатель.

А вот причем.

Во-первых, когда мы по любому вопросу обращаемся к ИИ, мы не только бесплатно обучаем подконтрольную иностранному правительству технологию, но и предоставляем ему неограниченный круг информации о себе – здоровье, сфера интересов, коммерческая тайна, потребительские привычки и так далее. Да-да, мы люди маленькие, кому мы интересны – всё это уже вспоминали. Вот только нечего удивляться тому, что вражеская пропаганда всё более и более четко знает, в какие болевые точки бить, а не тупо повторяет: «Иван, сдавайся, в плену тебя ждет фкусный еда!»

Во-вторых, чем больше, чаще и активнее мы вспоминаем про ИИ в мирной жизни, тем меньше мы обращаем внимание на военные аспекты технологии, они остаются за пределами нашей сферы внимания, которая не безгранична. Дымовая завеса как она есть.

И в-третьих, отупение граждан как собственных, так и иностранных – вполне легитимная цель для военной технологии. Тупыми легче управлять и с тупыми легче воевать – особенно если ты знаешь, как именно они отупели. И уж точно нет никаких сомнений, что аналитики компаний-разработчиков ИИ и Пентагона при написании своих рекомендаций используют нейросети исключительно для поиска и систематизации информации, не позволяя коллективному разуму думать за себя.

Вы, конечно, можете сказать, что всё это конспирология – но тотальную слежку за пользователями интернета тоже считали конспирологией, пока Сноуден и Ассанж не опубликовали документы, которые никто не смог опровергнуть.

Сейчас было бы весело написать: «текст, который вы прочли, создан нейросетью», но нет, ИИ так не умеет и вряд ли научится. А вот ссылки, особенно на давние события, нейросеть пока что ищет отлично. Пользуйтесь и не позволяйте роботам думать за себя, иначе получится как в сказке про Вовку в Тридевятом царстве:

- А есть вы тоже за меня будете?
- Ага! 

 

2.Люди правда тупеют от использования ИИ? Можно ли это предотвратить?

 

Да, мы тупеем, но мы счастливы. Разве мы не заслужили немного счастья? Мы будем рвать на себе волосы, когда наступит даунтайм чат-бота или блэкаут, но это будет не сегодня.

 

Курсовые работы и дипломы, которые за студентов пишет искусственный интеллект, — уже не новость, а обыденное положений вещей. В скольких областях ИИ массово применяется в рабочих целях — и не перечислить: от дизайна и журналистики (мы, журналисты, и сами уже не уверены в собственном существовании — вдруг мы просто функции матрицы и всегда такими были?) до медицины и кулинарии (ах, эти знаменитые рецепты нейросырников). Изначально было очевидно, что это оставит след на интеллекте человечества  — осталось только понять его масштабы. Что происходит с мозгом человека, который делегирует сложные творческие задачи искусственному интеллекту? Уж не растут его извилины от этого точно, сообщает наука. 

 

Использование генеративных языковых моделей, таких как ChatGPT, негативно влияет нейронную активность, память и креативность пользователя, Войдите или зарегистрируйтесь, чтобы увидеть скрытое содержимое.  исследование ученых из Массачусетского технологического института. В своем эксперименте они задались вопросом, как такие генеративные ИИ-инструменты влияют на когнитивные показатели студентов во время придумывания и сочинения учебных текстов.

 

Исследование называется «Ваш мозг на ChatGPT: накопление когнитивного долга при использовании ИИ-ассистента для написания эссе». В нем принимали участие 54 студента, чья мозговая активность отслеживалась посредством высокоплотной ЭЭГ.

 

Когнитивным долгом называют такое состояние, когда человек отказывается от самостоятельных размышлений, делегируя их искусственному интеллекту и получая от него готовые ответы. При этом настоящего понимания, почему эти ответы именно такие, а не другие, у пользователя нет — он «взял в долг» их у машины, не обладая никаким собственным когнитивным капиталом.

 

Чем выше наш когнитивный долг, который накапливается при многократном использовании ИИ, то есть чем сильнее зависимость от генеративных инструментов, тем ниже способность нашего мозга кодировать, извлекать и синтезировать информацию.

 

С повсеместным распространением больших генеративных языковых моделей все больше людей становятся когнитивными должниками. В особенности это заметно в сфере образования, где школьники и студенты сдают контрольные, курсовые и дипломы, целиком написанные ИИ. 

 

Логично предположить, что в дальнейшем такая тенденция можно привести к полному интеллектуальному банкротству, когда большинство задач, прежде решавшихся специалистами, будут отданы на откуп машинам. 

 

Но дело в том, что машины в производстве эффективных решений опираются на данные, которые стали продуктом многолетнего упорного труда миллионов умных людей. 

 

Если эта база проверенных и качественных данных, которым можно доверять, не будет наращиваться когнитивно разными людьми, машины с их ошибками и отсутствием лапок для контакта с реальным миром ради проверки их гипотез, могут нагенерить нам полной чуши. Как в меме про робота, который оперировал аппендицит не с той стороны, а потом жизнерадостно просил прощения за ошибку и требовал новой попытки. Но вернемся к исследованию.

 

В рамках опыта участников разделили на три группы: одна называлась «Только мозг» и не пользовалась вспомогательными инструментами вовсе, другой было разрешено гуглить информацию, третьи клепали текст с помощью GPT-4o. У всех было четыре сессии, в ходе которых они писали эссе, пока их мозговая активность изучалась. 

 

При этом на финальной сессии метод изменился: учащиеся, которые начали с ChatGPT, должны были закончить писать без него, а тем, кто начинал писать самостоятельно, наоборот, разрешили воспользоваться ИИ.

 

Студенты, которые не прибегали ни к каким цифровым инструментам, отличались самой высокой фронтально-теменной и семантической коннективностью — этот показатель демонстрирует уровень исполнительных функций и глубокой обработки памяти. 

 

У тех же, кто с самого начала полагался на ChatGPT, была самая низкая коннективность, особенно в альфа- и бета-диапазонах ЭЭГ. Перейдя от взаимодействия с ИИ к самостоятельному написанию эссе, эти студенты испытывали постоянные трудности при попытке вспомнить и процитировать, что именно они написали. Что неудивительно, учитывая, что сами они не написали ничего — фактически вся их работа была взята в долг у языковой модели.

 

«Люди уже страдают от этого, но многие все еще пытаются отрицать, что использование ChatGPT изменяет то, как мы концентрируемся, творим и оцениваем», — Войдите или зарегистрируйтесь, чтобы увидеть скрытое содержимое.  эти результаты коллега исследователей, нейроученый Дзюн-Тын Йе, занимающийся острой проблемой этических рамок для ИИ в медицине.

 

Одним из наиболее любопытных выводов исследования стало значение того, на каком этапе работы стоит прибегать к языковым моделям, если уж обойтись без них не получается. 

 

78% студентов из группы Brain-to-LLM, которые начинали без ИИ и только под конец стали использовать его для редактирования и дополнения уже написанного, правильно вспоминали и цитировали свои тексты даже на финальных стадиях, а также отличались более высокой мозговой связностью (хоть и не такой высокой, как в группе «Только мозг»).

 

И наоборот, участники группы LLM-to-Brain, то есть переключившиеся с ИИ на самостоятельную работу,  испытывали трудности с активацией тех же самых нейронных сетей, что приводило, по словам исследователей, к «лингвистически пресным» эссе. В 78% случаев они не могли правильно вспомнить, о чем в них шла речь.

 

Хотя тексты, созданные с помощью ИИ, получали высокие оценки как от людей, так и от других искусственных интеллектов, им не хватало разнообразия идей и личной вовлеченности автора, отсутствие которой бросалось в глаза. 

 

Студенты из группы LLM-to-Brain на протяжении текста многократно мусолили одни и те же темы без их критического и вариативного осмысления, что ставит под вопрос, насколько они вообще поняли и усвоили материал, а также их личную креативность — то есть все то, что в принципе оценивается преподавателями и ради чего оценка существует.

 

Исследователи заключили, что зависимость от генеративного ИИ, в особенности на ранних этапах работы, снижает способность учащихся производить и усваивать новые идеи, критически оценивать информацию, а также значительно ухудшает память. Согласно данным ЭЭГ, такие студенты слишком сильно перекладывают умственную работу на инструмент и не производят самостоятельных когнитивных усилий. 

 

Измерения также показывают снижение метакогнитивной активности, особенно в областях мозга, отвечающих за мониторинг ошибок и самооценку. 

 

«Если начинать с собственных идей и лишь затем обращаться за помощью к ИИ, у нас еще есть возможность сохранить полноценную работу нейронных цепей. 

 

Однако использование ИИ с самого начала ослабляет нейронные пути, отвечающие за креативность и критическое мышление», — сказал Дзюн-Тын Йе.

 

Понятно, что исследования взаимоотношений человека с языковыми моделями и их долгосрочное влияние на человеческий мозг должны продолжаться. Но уже из имеющихся сейчас данных можно сделать резонный практический вывод: чтобы сохранить то, что ученые называют когнитивной агентностью, то есть уникальную способность человека познавать и творить, при этом не становясь неолуддитом и пользуясь в своей работе преимуществами новейших цифровых инструментов, необходимо следовать четкому гибридному подходу, то есть чередовать фазы работы без ИИ и с ним.

 

При этом начинать творческую работу, какой бы она ни была, следует по старинке — один на один со своими неоформившимися идеями и боязнью пустого листа, полагаясь только на себя в этой самой тяжелой части пути. Только так вы не задолжаете свои последние нейроны шайтан-программе и получите результат, которым сможете действительно гордиться и без зазрения совести называть своим собственным.

 

У вас есть коллеги, подсевшие на на ChatGPT или похожие языковые модели? Поделитесь с ним этим материалом — возможно, им стоит пересмотреть принципы своего сотрудничества с цифровым помощником!

 

3.Чат-боты с ИИ "тупеют" из-за

длительного общения с людьми

 

Даже самые умные нейросети нередко «теряются» в разговоре, когда задача разбивается на естественный диалог из нескольких реплик.

 

Популярные чат-боты с искусственным интеллектом после длительного общения с людьми начинают делать больше ошибок, будто «тупеют» в процессе виртуального разговора.

Об этом свидетельствует новое исследование, проведенное Microsoft Research совместно с Salesforce, сообщает Войдите или зарегистрируйтесь, чтобы увидеть скрытое содержимое.

Анализ более 200 тысяч разговоров с чат-ботами крупных языковых моделей демонстрирует, что суммарный уровень ошибок может вырасти более чем на 100%. Пользователи регулярно жалуются на «галлюцинации» и неверные ответы.

Новая научная работа подтверждает: даже самые умные нейросети нередко «теряются» в разговоре, когда задача разбивается на естественный диалог из нескольких реплик.

В ходе эксперимента эксперты изучили диалоги пользователей с ведущими чат-ботами, включая GPT-4.1, Gemini 2.5 Pro, Claude 3.7 Sonnet и DeepSeek R1.

Если при одиночных запросах такие модели демонстрируют практически 90% успешных ответов, то в длительных разговорах с уточнениями и дополнительными вопросами показатель падает до 65%. Иными словами, с усложнением контекста эффективность заметно снижается.

Исследователи обнаружили еще одно интересное явление — «раздувание ответов». В многоходовых диалогах ответы моделей становились длиннее на 20-300%.

Вместе с объемом росло и количество предположений и «галлюцинаций», которые затем закреплялись в контексте разговора и использовались как основа для дальнейших реплик.

При этом даже модели с расширенными токенами размышления, такие как OpenAI o3 и DeepSeek R1, не смогли полностью избежать этого эффекта.

Авторы подчеркивают, что резкое ухудшение качества в длинных беседах не означает, что модели «тупеют» в буквальном смысле — скорее, это указывает на их ограниченность в удержании и правильной интерпретации большого объема информации во время диалога.

Как отмечает Windows Central, такие особенности следует учитывать при использовании чат-ботов в продуктах, ориентированных на длительное взаимодействие с пользователем. Возможные ошибки и галлюцинации могут ввести людей в заблуждение, особенно если пользователь полагается на ИИ как источник точной и критически важной информации.

 

По состоянию на настоящее время ChatGPT занимает более 80% мирового рынка чат-ботов. Ближайшие соперники — Perplexity и Google Gemini. На них приходится доля в 15% от всех пользователей.

Напомним, ранее американские ученые по результатам онлайн-опроса пришли к выводу, что частое общение с чат-ботами с искусственным интеллектомВойдите или зарегистрируйтесь, чтобы увидеть скрытое содержимое. У людей, которые ежедневно используют подобные технологии, фиксируют значительно более высокий риск появления симптомов депрессии, тревожности и раздражительности.

 

 

4.ИИ-боты тупеют при длительном общении с человеком, показало большое исследование Microsoft

 

 

Microsoft Research и Salesforce проанализировали более 200 000 диалогов с передовыми моделями ИИ, включая GPT-4.1, Gemini 2.5 Pro, Claude 3.7 Sonnet, OpenAI o3, DeepSeek R1 и Llama 4. Результаты показали, что все они часто «теряются в разговоре», если он разбивается на естественные многоходовые диалоги с обменом репликами. Для собеседника чат-ботов это выглядит, как постепенное «оглупление» модели, сопровождающееся галлюцинациями и откровенно неверными ответами.       Учёные утверждают, что ИИ-модели, такие как GPT-4.1 и Gemini 2.5 Pro, достигают 90 % точных ответов при обработке отдельных запросов. Однако их производительность падает примерно до 65 % во время более длительных диалогов с обменом многочисленными репликами. Причём модели склонны использовать свой первоначальный ответ в качестве основы для ответа на последующие вопросы, даже если он был неверным. Исследователи обнаружили ещё одно любопытное явление — раздувание ответов. Ответы и реакции моделей становились на 20‑300 % длиннее при участии в многоходовых диалогах. Более длинные ответы на запросы приводили к большему количеству предположений и иллюзий, которые затем использовались моделями в качестве постоянного контекста в разговоре.     Хотя такие модели, как o3 от OpenAI и DeepSeek R1, обладают дополнительными «токенами мышления», они не смогли выбраться из этой странной ситуации. Исследователи подчеркнули, что надёжность LLM снизилась на 112 %. Это объясняется склонностью моделей к преждевременной генерации — они пытаются предложить ответ на запрос, не дочитав его до конца. Становится очевидным, что ИИ ещё не достиг своего пика, сталкиваясь с такими критическими проблемами, как низкая надёжность при участии в многоходовых диалогах. Тем не менее, отношение пользователей к ИИ-сервисам быстро меняется, особенно с появлением таких инструментов, как «ИИ-обзоры Google». Следует отметить, что отказ от традиционных поисковых систем в пользу инструментов на основе ИИ — это большой риск, поскольку генерируемая информация может оказаться недостоверной. Некоторое время назад Microsoft обвинила пользователей в неправильном использовании ИИ, заявив о низком уровне инженерных навыков при разработке подсказок. Возможно, именно глупые вопросы и плохие подсказки от «кожаных мешков» не дают моделям искусственного интеллекта проявить себя во всей красе?

 

 

При написании статьи использовались следующие материалы:

 

1.Войдите или зарегистрируйтесь, чтобы увидеть скрытое содержимое.

2.Войдите или зарегистрируйтесь, чтобы увидеть скрытое содержимое.

3.Войдите или зарегистрируйтесь, чтобы увидеть скрытое содержимое.

4.Войдите или зарегистрируйтесь, чтобы увидеть скрытое содержимое.