Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Предупреждай об оползнях
Эксперты Аляскинского центра изучения землетрясений предупреждают, что таяние ледников в арктических фьордах увеличивает вероятность масштабных оползней и цунами.

Они основывают свои выводы на данных, собранных после инцидента в заливе Трейси-Арм. В августе 2025 года в этом регионе произошёл обвал части горного массива, который вызвал цунами высотой 481 метр.

Это стало вторым по силе явлением такого рода за время наблюдений. Ударная волна снесла с откосов весь почвенный слой и растительность.

Трагедия произошла примерно через 12 часов после того, как круизный лайнер Hanse Explorer покинул акваторию залива. За два месяца до обрушения ледник отступил на полмили, а обильные дожди и тёплая вода способствовали размыванию горных пород.

Непосредственно перед падением сейсмографы зафиксировали серию из тысяч слабых подземных толчков. Научное сообщество настаивает на внедрении системы раннего оповещения, которая позволит контролировать метеорологические изменения и фиксировать сейсмический фон, предшествующий обвалам.

Учёные прогнозируют, что такая система обеспечит судам в отдалённых районах возможность получить сигнал тревоги за 10 минут до прихода волны. В настоящее время в США отсутствует специализированный мониторинг подобных оползней, но исследователи считают, что создание такой системы критически важно для безопасности путешественников.

Это также позволит туристическим операторам принимать обоснованные решения, сохраняя при этом доступ к уникальным арктическим пейзажам. Автор: Михаил Алимов.

Московский комсомолец

Грецкие орехи улучшают настроение
Учёные опубликовали в журнале Food amp; Function (Famp;F) результаты исследования, согласно которым ежедневное употребление грецких орехов связано с изменениями обмена серотонина и улучшением настроения у молодых людей.

В эксперименте участвовали 31 здоровый человек со средним возрастом 24 года. В течение восьми недель добровольцы каждый день съедали по 40 граммов грецких орехов, а в другой восьминедельный период придерживались рациона без орехов.

После употребления грецких орехов у участников снизился общий показатель нарушений настроения. В моче повысился уровень 5-HIAA — основного продукта распада серотонина.

При этом чем сильнее рос этот показатель, тем заметнее снижались усталость и нарушения настроения. Кроме того, повысился уровень уролитинов — веществ, которые образуются при переработке компонентов грецких орехов с участием кишечной микрофлоры.

Изменения их концентрации были связаны с уровнем 5-HIAA. Содержание кортизола, одного из основных гормонов стресса, не изменилось.

Авторы исследования предполагают, что грецкие орехи могут влиять на процессы, связанные с обменом серотонина, в том числе через кишечную микрофлору. Однако эксперимент включал всего 31 человека, поэтому механизм этого эффекта ещё предстоит подтвердить.

Ранее стало известно, что употребление орехов может снижать вероятность деменции и болезни Альцгеймера.

Лента ру

Защити детские зубы от кариеса
Стоматолог Амина Высотенко сообщила «Газете.

Ru», что детские соки, фруктовые пюре и «полезные» батончики могут быть более вредными для зубов, чем конфеты. Она подчеркнула, что появление кариеса зависит не только от количества сахара, но и от частоты употребления сладкого между основными приёмами пищи.

После еды на зубах образуется бактериальный налёт. Микробы перерабатывают остатки сахара и выделяют кислоты, которые вымывают минералы из эмали.

Слюна обладает защитными свойствами и может восстанавливать кислотно-щелочной баланс, но частые перекусы или употребление сладких напитков не дают ей справиться с этой задачей. Высотенко отметила, что надпись «без добавленного сахара» на упаковке сока не означает, что сахара в напитке нет совсем.

В соке сохраняются фруктоза, глюкоза и другие сахара. Яблоко нужно долго жевать, а сок ребёнок пьёт часто и понемногу, что увеличивает риск развития кариеса.

С фруктовым пюре ситуация аналогична. Если ребёнок съедает его за один раз, зубы контактируют с сахаром кратковременно.

Но если растягивать процесс на час, кислая среда в полости рта сохраняется гораздо дольше, что повышает риск развития кариеса. Детские батончики с надписями «натуральный», «без белого сахара», «из фруктов и злаков» тоже содержат сахар.

Врач рекомендует заменять их финиками, сухофруктами, фруктовыми пастами, мёдом или сиропом. Фрукты убирать из рациона не нужно, считает врач.

Между основными приёмами пищи лучше пить воду. Перекус может включать в себя цельные фрукты, овощи, сыр, натуральный йогурт без добавленного сахара.

Сок, пюре или сладкий батончик лучше есть вместе с основными приёмами пищи.

Московский комсомолец

Микропластик нарушает работу печени
В экспериментах на мышах учёные из Боннского университета обнаружили, что микропластик может влиять на накопление жира в печени, нарушая работу её иммунных клеток.

Результаты исследования опубликованы в журнале Nature Metabolism. В течение 12 недель мыши получали микропластик, после чего учёные исследовали клетки Купфера — иммунные клетки печени, поглощающие бактерии, повреждённые клетки и чужеродные частицы.

Выяснилось, что внутри клеток Купфера накапливается большое количество пластика. Макрофаги способны захватывать микропластик, но не могут его расщепить.

В результате частицы забивают лизосомы — клеточные структуры, отвечающие за переработку различных веществ, — и мешают иммунным клеткам нормально функционировать. Из-за этого макрофаги начинают вырабатывать больше белков, участвующих в переносе жиров.

Соседние клетки печени реагируют на эти сигналы и начинают накапливать больше жира, что нарушает обмен веществ в органе. Размер пластика также влияет на эффект: более мелкие наночастицы почти не нарушают обмен веществ в печени, однако накапливаются в бурой жировой ткани.

Ранее учёные выяснили, что избыток соли в рационе способствует развитию тяжёлой формы жировой болезни печени.

Лента ру