Опасности обучения ИИ на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Эта технология позволяет преодолеть гематоэнцефалический барьер — естественную защиту мозга, которая зачастую снижает эффективность традиционного лечения, как сообщили в пресс-службе университета «Ленте.ру».

В основе разработки — «умная» лекарственная форма на базе геллановой камеди. После введения в нос препарат превращается в гель и удерживается на слизистой до нескольких часов.

Это позволяет активному веществу постепенно проникать в мозг и дольше сохранять терапевтический эффект. В качестве действующего вещества учёные использовали рибавирин — препарат, известный как противовирусное средство.

Исследования последних лет показали, что он способен подавлять механизмы роста глиобластомы — одной из самых агрессивных опухолей головного мозга. Эксперименты на лабораторных крысах подтвердили безопасность технологии.

Концентрация препарата в мозге оказалась значительно выше, чем в крови, при этом повреждений слизистой оболочки учёные не обнаружили. Авторы работы считают, что разработанная система может стать основой для более эффективной терапии опухолей мозга и использоваться для доставки других противоопухолевых препаратов.

Результаты опубликованы в журнале Bioengineering. Наиболее заметные изменения были обнаружены после воздействия кока-колы и лимонного сока.

В исследовании участвовали 42 человеческих зуба, которые разделили на группы. Образцы погружали в кока-колу, апельсиновый и лимонный сок, кофе, ополаскиватели для рта и искусственную слюну.

В течение пяти дней учёные имитировали регулярное воздействие напитков на эмаль, а затем изучали поверхность зубов под электронным микроскопом. Кока-кола и лимонный сок вызвали наиболее сильные повреждения: на эмали появилась выраженная шероховатость, пористость и признаки потери минеральной структуры.

Апельсиновый сок также привёл к заметным изменениям, но они были менее выраженными. Кофе в основном окрашивал эмаль, а ополаскиватели почти не меняли её структуру.

Авторы исследования подчёркивают, что работа проводилась в лаборатории и не полностью повторяет условия во рту, где на зубы влияют слюна, питание и гигиена. Однако результаты показывают, что частое употребление кислых напитков может повысить риск эрозии эмали, особенно при регулярном воздействии.

Ранее учёные выяснили, что базилик подавляет бактерии, связанные с развитием кариеса.

Результаты исследования опубликованы в журнале The American Journal of Clinical Nutrition (AJCN). Исследователи изучили данные о 10,9 тысячи родов и выяснили, что женщины с повышенным уровнем сахара при первичном тесте на гестационный диабет чаще рожали детей с избыточным весом, даже если после дополнительного обследования диагноз «диабет» не подтверждался.

Согласно работе, женщины с такими показателями на 41 процент чаще рожали крупных для своего срока беременности детей. Учёные подчёркивают, что высокая масса тела при рождении считается одним из важных факторов риска развития ожирения, нарушений обмена веществ и диабета в более позднем возрасте.

Авторы исследования отмечают, что риск может существовать даже у женщин без официального диагноза «гестационный диабет». По словам исследователей, уровень сахара во время беременности влияет не только на состояние матери, но и на долгосрочное здоровье ребёнка.

Поэтому контроль питания и уровня глюкозы может играть важную роль в профилактике будущих метаболических заболеваний у детей.

Результаты их исследования были опубликованы в журнале Journal of Investigative Dermatology (JID). В ходе эксперимента исследователи сопоставили участки кожи, которые регулярно подвергаются воздействию солнечных лучей, с теми, что защищены от ультрафиолета, у одних и тех же участников.

Выяснилось, что постоянное воздействие UV-излучения ослабляет суточные ритмы активности генов, которые отвечают за восстановление клеток и защиту ДНК. Учёные установили, что в коже, повреждённой солнцем, нарушается координация восстановительных процессов, которые обычно наиболее активно протекают ночью.

По мнению авторов работы, это может объяснить, почему под воздействием ультрафиолета развивается воспаление, фотостарение и постепенно разрушается структура кожи. Специалисты подчёркивают, что кожа, как и другие органы, имеет свои «биологические часы», которые помогают ей адаптироваться к смене дня и ночи.

Многолетнее воздействие солнечного света может «перенастроить» эти ритмы.