Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Началась магнитная буря
Институт прикладной геофизики сообщил о начале магнитной бури, которую прогнозировали ранее.

Уровень возмущения геомагнитного поля достиг отметки G1 — это нижняя ступень пятибалльной шкалы магнитных бурь. Учёные из Лаборатории солнечной астрономии ИКИ РАН и ИСЗФ СО РАН ранее фиксировали необычное затишье на Солнце, и с начала сентября магнитная буря была только один раз.

При показателе G1, соответствующем слабому возмущению, возможны незначительные сбои в работе спутников и энергосистем, однако серьёзных последствий, как правило, не ожидается. Вместе с тем повышается вероятность возникновения полярных сияний в более низких широтах.

Геомагнитная активность появляется из-за взаимодействия потоков заряженных частиц от Солнца с магнитным полем Земли. Сила события зависит от характеристик солнечного ветра и ориентации межпланетного магнитного поля.

В августе магнитные бури фиксировались четыре дня, а в марте — семь.

Московский комсомолец

Изучены профили мозговой активности при депрессии
Учёные из Хельсинкского университета провели исследование и обнаружили пять различных профилей мозговой активности у людей с серьёзным депрессивным расстройством.

Согласованность работы отдельных областей мозга у участников исследования была как выше, так и ниже обычного уровня. Это указывает на то, что одинаковый диагноз может сопровождаться существенно различающимися биологическими изменениями.

В исследовании приняли участие 263 человека с депрессией и 75 здоровых участников контрольной группы. Для изучения мозговой активности использовалась магнитоэнцефалография — метод, который регистрирует слабые магнитные поля, возникающие при электрической активности мозга.

Этот метод позволяет отслеживать изменения с точностью до миллисекунд. Выделенные группы различались и по симптомам.

В одной из них особенно сильная согласованность активности сопровождалась более выраженными проблемами со злоупотреблением психоактивными веществами. В другой группе, со сниженной согласованностью в значительной части мозга, заметнее проявлялись симптомы посттравматического стрессового расстройства.

По мнению авторов исследования, такие различия могут объяснить противоречия между прежними исследованиями. Объединение пациентов с противоположными изменениями может скрывать характерные особенности каждой группы.

Однако пока нельзя выбирать лечение на основе этих измерений. Следующая задача — установить более надёжные связи между симптомами, работой мозга и подходящими способами терапии.

Московский комсомолец

Понимаем причины набора веса
Человеческий организм реагирует на изменения продолжительности светового дня, температуры, режима сна и уровня физической активности.

Однако врач-эндокринолог и диетолог Владимир Майоров утверждает, что осень сама по себе не запускает накопление жировой ткани. Специалист поясняет, что жировая масса увеличивается, когда поступление энергии превышает её расход.

Это может произойти не только из-за увеличения потребления пищи, но и из-за снижения двигательной активности, что, по словам Майорова, является наиболее распространённой причиной. Сокращение светового дня влияет на циркадные ритмы организма, которые участвуют в регуляции сна, секреции гормонов, пищевого поведения, чувствительности тканей к инсулину и энергетического обмена.

Майоров отмечает, что рассогласованность между биологическими часами, временем сна, приёмами пищи и освещением может снижать чувствительность тканей к инсулину и менять регуляцию глюкозного обмена. Эксперт подчёркивает, что не всякая прибавка в весе означает рост жировой массы.

На показатель влияют объём жидкости в теле, содержание гликогена, употребление соли и углеводов, количество пищи в желудочно-кишечном тракте, менструальный цикл, физические нагрузки и другие факторы. Поэтому изменение массы тела следует оценивать на протяжении нескольких недель, а не по одной цифре.

Обратиться к врачу стоит, если произошло не обычное сезонное увеличение веса, а быстрое и продолжающееся нарастание массы, особенно при одновременном появлении отёков, одышки, резкого снижения переносимости нагрузок, выраженной слабости или других новых симптомов. Диетолог и специалист по метаболическому здоровью Флора Бейли ранее рассказала, что осенью поддержать уровень энергии помогут продукты, богатые белком, клетчаткой и сложными углеводами.

Московский комсомолец

Маск предлагает заменить ИИ на СИ
Илон Маск предложил отказаться от термина «искусственный интеллект» в пользу обозначения «суперинтеллект».

В своём посте в соцсети X предприниматель написал: «Больше никакого ИИ. СИ (суперинтеллект) будет лучше».

Ранее президент США Дональд Трамп анонсировал подписание указа, согласно которому искусственный интеллект будет переименован в суперинтеллект. По данным документов Белого дома, подготовленных по итогам государственного визита председателя КНР Си Цзиньпина в Вашингтон (23–25 сентября) и его переговоров с американским лидером, главы двух государств договорились использовать термин «суперинтеллект» для описания передовых технологий, отказавшись от устоявшегося наименования «искусственный интеллект».

Московский комсомолец

Другие новости