Опасности обучения ИИ на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

К такому заключению пришли учёные, которые изучили данные более чем 600 тысяч человек. Результаты исследования опубликованы в журнале EClinicalMedicine.

Специалисты следили за изменением веса у мужчин и женщин в возрасте от 17 до 60 лет и сопоставляли эти данные с причинами смерти. Выяснилось, что наибольший риск связан с набором веса в возрасте 17–29 лет, а также с ранним развитием ожирения.

У людей, которые столкнулись с этими проблемами, вероятность смерти от различных причин была примерно на 70 процентов выше по сравнению с теми, кто не страдал ожирением. Повышенные риски были связаны сразу с несколькими группами заболеваний: сердечно-сосудистыми, онкологическими, диабетом второго типа, а также болезнями пищеварительной и мочеполовой систем.

Набор веса в более позднем возрасте тоже влиял на здоровье, но значительно слабее. Авторы исследования подчёркивают, что именно ранние изменения веса играют ключевую роль в долгосрочном прогнозе.

Они считают, что профилактика ожирения в молодом возрасте может стать одним из самых эффективных способов снизить риск развития тяжёлых заболеваний и увеличить продолжительность жизни.

В исследовании участвовали более 900 человек из США, за которыми наблюдали в течение четырёх лет. На начальном этапе оценивалось состояние полости рта участников: количество утраченных зубов и наличие заболеваний дёсен.

Почти у 12 процентов добровольцев масса тела увеличилась как минимум на 5 процентов за время наблюдения. Анализ показал, что риск набора веса был выше у людей с меньшим количеством зубов и нарушением здоровья дёсен.

Особенно заметной оказалась роль коренных зубов: их утрата повышала вероятность увеличения массы тела примерно на 17 процентов. По словам учёных, ключевым механизмом может быть изменение рациона.

Людям с проблемами зубов сложнее есть твёрдую и богатую клетчаткой пищу — овощи, фрукты, орехи. В результате они чаще выбирают мягкие продукты, которые нередко содержат больше жиров и сахара, что и способствует набору веса.

Специалисты подчёркивают, что здоровье зубов и дёсен может играть более важную роль в поддержании нормального веса, чем считалось ранее. Однако они также отмечают, что выявленная связь требует дальнейшего изучения для более точного определения причинно-следственных механизмов.

Этот вывод был сделан после анализа данных рандомизированного двойного слепого плацебо-контролируемого исследования, результаты которого опубликованы в журнале Frontiers in Nutrition. В исследовании приняли участие 52 здоровых человека с изначально низким качеством сна.

Участники были разделены на две группы: одна группа в течение четырёх недель ежедневно принимала гидролизованный экстракт куриного белка в дозе 670 мг, другая — плацебо. Эффективность оценивалась с помощью опросника качества сна Питтсбурга (PSQI), который учитывает общий показатель сна и его отдельные компоненты.

По итогам эксперимента значимых различий по общему индексу сна между группами выявлено не было. Однако участники, принимавшие добавку, отметили улучшение качества сна, и это различие оказалось статистически значимым.

Кроме того, у участников основной группы наблюдалось умеренное улучшение дневного функционирования, например, уровня бодрости и способности справляться с повседневными задачами, хотя этот эффект не достиг строгой статистической значимости. Авторы исследования подчёркивают, что гидролизованный куриный экстракт содержит биоактивные пептиды, которые могут влиять на работу нервной системы и процессы восстановления.

Ранее учёные выяснили, что сок кислой вишни помогает пожилым людям избавиться от бессонницы.

Этот вывод был сделан на основе исследования, опубликованного в журнале Advanced Science. APOE4 является одним из основных факторов риска развития нейродегенеративных заболеваний.

В ходе экспериментов было обнаружено, что этот ген влияет не только на мозг, но и на костную ткань. Изменения происходят на молекулярном уровне и не выявляются стандартными методами диагностики, такими как измерение плотности костей.

Исследование показало, что у самок мышей с геном APOE4 нарушается работа остеоцитов — клеток, поддерживающих прочность костей. В результате ухудшается внутренняя структура костной ткани, хотя внешне кость может выглядеть нормальной.

Это означает, что риск хрупкости может оставаться незамеченным до появления переломов. Учёные также обнаружили, что в костной ткани присутствует большое количество белков, связанных с заболеваниями мозга, включая те, которые участвуют в развитии болезни Альцгеймера.

Это указывает на более тесную связь между состоянием мозга и костей, чем предполагалось ранее. Ранее было установлено, что риск сердечно-сосудистых заболеваний увеличивает вероятность переломов.