Опасности обучения ИИ на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Это стало известно после исследования, опубликованного в журнале Stroke. Специалисты изучили данные более 480 тысяч взрослых участников британского биобанка, у которых ранее не было инсульта.

В течение почти 14 лет наблюдений было зафиксировано свыше 11,8 тысячи случаев заболевания. Исследование показало, что у людей с возрастной потерей мышечной массы риск инсульта значительно выше.

Особенно заметна связь у тех, кто ходит медленно — у них риск инсульта оказался выше на 64% по сравнению с теми, кто ходит быстро. Низкая сила хвата также связана с повышением риска инсульта на 7%, а выраженная мышечная слабость — с увеличением риска всех типов инсульта примерно на 30%.

Авторы исследования отмечают, что ухудшение физической функции может указывать на хроническое воспаление, нарушения обмена веществ и общее снижение состояния организма. По словам учёных, простые показатели, такие как скорость ходьбы или сила хвата, могут стать дополнительным способом раннего выявления людей с высоким риском инсульта.

Ранее исследователи выяснили, что соединения из цитрусовых фруктов защищают мозг при ишемическом инсульте.

К такому выводу пришли японские исследователи, опубликовав свою работу в журнале Cell Metabolism (CM). Учёные изучили вещество S-1-propenyl-L-cysteine (S1PC), которое содержится в экстракте выдержанного чеснока — специальной форме, прошедшей длительную обработку и созревание.

Эксперименты показали, что S1PC активирует важные механизмы клеточного обмена и запускает выработку фермента eNAMPT в жировой ткани. Затем этот фермент через кровь воздействует на гипоталамус — область мозга, связанную с регуляцией обмена веществ и работы мышц.

Пожилые мыши, которые долго получали S1PC, показали снижение признаков возрастной хрупкости, увеличение мышечной силы и восстановление нормальной температуры тела. У людей после приёма вещества также повышался уровень eNAMPT в крови, особенно при достаточном количестве жировой ткани.

Авторы считают, что открытие может помочь в разработке более доступных способов борьбы с возрастным снижением физической активности и мышечной слабостью. Однако учёные подчёркивают, что пока речь идёт о лабораторных данных, а эффективность и долгосрочное действие S1PC у людей ещё предстоит подтвердить в дальнейших исследованиях.

Ранее учёные выяснили, что регулярное употребление минеральной воды укрепляет мышцы у пожилых.

Эта технология позволяет преодолеть гематоэнцефалический барьер — естественную защиту мозга, которая зачастую снижает эффективность традиционного лечения, как сообщили в пресс-службе университета «Ленте.ру».

В основе разработки — «умная» лекарственная форма на базе геллановой камеди. После введения в нос препарат превращается в гель и удерживается на слизистой до нескольких часов.

Это позволяет активному веществу постепенно проникать в мозг и дольше сохранять терапевтический эффект. В качестве действующего вещества учёные использовали рибавирин — препарат, известный как противовирусное средство.

Исследования последних лет показали, что он способен подавлять механизмы роста глиобластомы — одной из самых агрессивных опухолей головного мозга. Эксперименты на лабораторных крысах подтвердили безопасность технологии.

Концентрация препарата в мозге оказалась значительно выше, чем в крови, при этом повреждений слизистой оболочки учёные не обнаружили. Авторы работы считают, что разработанная система может стать основой для более эффективной терапии опухолей мозга и использоваться для доставки других противоопухолевых препаратов.

Результаты опубликованы в журнале Bioengineering. Наиболее заметные изменения были обнаружены после воздействия кока-колы и лимонного сока.

В исследовании участвовали 42 человеческих зуба, которые разделили на группы. Образцы погружали в кока-колу, апельсиновый и лимонный сок, кофе, ополаскиватели для рта и искусственную слюну.

В течение пяти дней учёные имитировали регулярное воздействие напитков на эмаль, а затем изучали поверхность зубов под электронным микроскопом. Кока-кола и лимонный сок вызвали наиболее сильные повреждения: на эмали появилась выраженная шероховатость, пористость и признаки потери минеральной структуры.

Апельсиновый сок также привёл к заметным изменениям, но они были менее выраженными. Кофе в основном окрашивал эмаль, а ополаскиватели почти не меняли её структуру.

Авторы исследования подчёркивают, что работа проводилась в лаборатории и не полностью повторяет условия во рту, где на зубы влияют слюна, питание и гигиена. Однако результаты показывают, что частое употребление кислых напитков может повысить риск эрозии эмали, особенно при регулярном воздействии.

Ранее учёные выяснили, что базилик подавляет бактерии, связанные с развитием кариеса.