Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Измерь связь нарциссизма и прощения
В Берлине учёные провели эксперимент с участием 102 женщин, которые проходили лечение в психосоматической клинике.

У участниц были диагностированы тяжёлая депрессия и тревожные расстройства. Учёные использовали комбинацию традиционных опросов и теста имплицитных ассоциаций (IAT), чтобы измерить явные (сознательные) и неявные (автоматические) аспекты антагонистического нарциссизма.

Они также исследовали связь этих аспектов с прощением. Оказалось, что именно скрытые антагонистические наклонности были наиболее тесно связаны с низкой способностью прощать, а не осознанное чувство превосходства или соперничества.

Респонденты с высокими неявными нарциссическими ассоциациями демонстрировали значительно более низкие показатели прощения в компьютерном задании. В опросах они сообщали о более сильном желании избегать обидчика и меньшей доброжелательности к нему.

Эта связь сохранялась даже после учёта явных показателей нарциссизма, которые почти не коррелировали с прощением, за исключением связи между сознательным соперничеством и мотивацией мести. Авторы предполагают, что последняя требует целенаправленного планирования и когнитивных усилий, тогда как неявный антагонизм отражает более примитивную эмоциональную реакцию — отчуждение, недоверие и недостаток тепла.

Эти реакции не требуют сознательного обдумывания и поэтому труднее поддаются коррекции в терапии. Исследователи подчёркивают, что их результаты основаны на выборке, состоящей исключительно из женщин, и не позволяют обобщать их на мужчин.

Кроме того, исследование было поперечным, а не лонгитюдным, поэтому нельзя утверждать, что нарциссизм вызывает снижение прощения, а не наоборот. Однако данные указывают на важность оценки скрытых черт личности в психиатрической помощи.

Пациенты могут искренне верить, что они готовы простить, и даже говорить об этом в терапии, но их автоматическая система продолжает работать против них. По мнению учёных, терапевтам следует включать в работу техники, направленные на изменение имплицитных установок.

Это могут быть упражнения по переоценке автоматических реакций, практики осознанности или методология тренировки ассоциаций. Такие методы помогут пациентам преодолеть внутренние барьеры, которые они сами не осознают.

Московский комсомолец

Нейросеть
Мигрень ускоряет старение мозга
Учёные обнаружили, что мигрень приводит к ускоренному старению в 66 областях мозга, включая префронтальную, лобную, теменную и височную кору, а также миндалевидное тело.

Эти структуры играют ключевую роль в обработке боли, эмоциональной регуляции, памяти и когнитивном контроле. Международная группа исследователей отмечает, что их анализ не устанавливает причинно-следственную связь, но выявляет корреляцию между региональными различиями в возрасте мозга и частотой приступов, количеством обезболивающих и показателями депрессии.

Это позволяет предположить, что мигрень может способствовать структурным изменениям, которые накапливаются со временем и ускоряют старение. Для определения нормальных траекторий старения учёные использовали МРТ-снимки 1318 здоровых людей в возрасте от 20 до 92 лет.

С помощью машинного обучения компьютер был обучен предсказывать возраст по объёму серого вещества в 442 областях мозга. Затем эта модель была применена к группе из 110 пациентов с мигренью и 70 здоровым людям из контрольной группы.

Анализ показал, что у пациентов с мигренью наблюдалось повышенное старение в зонах, связанных с сетями, участвующими в восприятии боли, эмоциональной регуляции и когнитивном контроле. Среди этих 66 областей ни одна не показала более молодой биологический возраст, что указывает на системный эффект.

Функциональный анализ показал, что эти зоны отвечают за внимание, рабочую память, речь, слуховую обработку и тормозной контроль. Структурное старение соответствовало субъективным жалобам пациентов на затуманивание сознания, трудности с концентрацией и изменения настроения, которые часто сопровождают мигрень.

Авторы признают, что их исследование имеет ограничения. Выборка была набрана из специализированной клиники, где пациенты могут иметь более тяжёлое течение, чем в среднем по популяции.

Кроме того, учёные не проводили формальных когнитивных тестов, чтобы подтвердить, приводят ли структурные изменения к реальным нарушениям в повседневной жизни.

Московский комсомолец

Связь менопаузы и гипертонии исследуют учёные
В журнале Menopause опубликована работа исследователей, которые проанализировали данные почти 108 тысяч женщин из британского проекта UK Biobank.

Наблюдение за состоянием их здоровья продолжалось до 2023 года. Выяснилось, что у женщин, у которых менопауза наступила раньше 40 лет, чаще наблюдается повышенное артериальное давление.

Гипертония развилась у 22,9 % женщин с преждевременной менопаузой и у 19 % женщин с ранней менопаузой. Среди участниц, переживших менопаузу после 45 лет, этот показатель не превысил 17 %.

После учёта других факторов риска выяснилось, что вероятность развития гипертонии у женщин с преждевременной менопаузой выше на 12 %. Наиболее заметная связь наблюдалась у женщин, у которых менопауза наступила в возрасте от 25 до 35 лет.

При этом у женщин, перенёсших хирургическое удаление яичников, независимого повышения риска не обнаружено. Авторы исследования считают, что женщинам с преждевременной менопаузой нужно регулярно контролировать артериальное давление и другие показатели здоровья сердца.

Это позволит вовремя выявлять и предотвращать развитие сердечно-сосудистых заболеваний. Ранее учёные выяснили, что повышенное артериальное давление может вредить здоровью мозга и почек.

Лента ру

Нейросеть
Улучши мозг силовыми тренировками
Учёные, проанализировав данные 28 исследований, проведённых в период с 2014 по 2024 год, пришли к выводу, что регулярные силовые тренировки могут быть эффективным методом сохранения когнитивных функций в пожилом возрасте.

Результаты этого анализа опубликованы в журнале Frontiers in Aging. Исследователи обнаружили, что упражнения с отягощениями способствуют улучшению памяти, скорости обработки информации, исполнительных функций и пространственного мышления у пожилых людей.

Кроме того, такие тренировки оказывают положительное влияние на состояние мозга: они увеличивают уровень нейротрофических факторов, улучшают мозговое кровообращение и снижают хроническое воспаление, которое может быть одним из факторов ухудшения когнитивных способностей с возрастом. Наиболее стабильный эффект наблюдался при тренировках умеренной интенсивности с нагрузкой около 60–79% от максимального веса, который человек способен поднять однократно.

Однако авторы отмечают, что пользу для мозга приносят и более лёгкие, и более интенсивные занятия. Прямых сравнений между разными режимами пока недостаточно.

По словам учёных, силовые тренировки — это доступный и безопасный немедикаментозный способ поддержания здоровья мозга в пожилом возрасте. Тем не менее для определения оптимальной программы занятий и оценки долгосрочного эффекта требуются дополнительные исследования.

Лента ру

Другие новости