Опасности обучения ИИ на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Исследование опубликовано в журнале Nutrients. Эксперимент проводился на сирийских хомяках, которых в течение восьми недель кормили пищей с высоким содержанием жиров и холестерина.

Часть животных дополнительно получала смесь куркумина и льняного масла в низкой или высокой дозе. У животных, получавших добавку, снизились уровни триглицеридов, общего холестерина и «плохого» холестерина LDL в крови.

Также у них уменьшилось накопление триглицеридов и холестерина в печени. Наиболее заметный эффект наблюдался в группе с высокой дозой смеси.

Исследователи установили, что добавка усиливала выведение жиров и холестерина с калом, а также меняла липидный профиль крови и печени. По мнению авторов, льняное масло могло улучшать усвоение жирорастворимого куркумина и одновременно дополнять его действие за счёт омега-3 жирных кислот.

Учёные подчёркивают, что результаты получены на животных, поэтому переносить их напрямую на людей нельзя. Однако работа показывает, что комбинация куркумина и льняного масла может быть перспективной пищевой стратегией для поддержки печени и контроля нарушений жирового обмена.

Ранее стало известно, что куркумин снижает повреждение сердца и нарушения ритма при тепловом ударе.

Результаты исследования опубликованы в журнале The American Journal of Pathology (AJP). Исследователи изучили процесс превращения ранних форм рака молочной железы в инвазивные опухоли.

У женщин без ожирения этот процесс сопровождался быстрым делением раковых клеток и их способностью проникать в соседние ткани. У пациенток с ожирением учёные обнаружили другой механизм развития заболевания.

При ожирении вокруг опухоли формируется более воспалённая среда. В ткани активно привлекаются иммунные клетки, которые вместо борьбы с раком помогают ему расти.

Опухолевые клетки лучше справляются со стрессом и изменяют обмен веществ так, чтобы получать больше энергии для дальнейшего развития. Авторы исследования также обнаружили, что в процесс вовлекаются не только сами раковые клетки, но и окружающие их ткани.

Такое взаимодействие создаёт благоприятные условия для превращения неинвазивной опухоли в агрессивную форму рака. Кроме того, у женщин с ожирением был выявлен повышенный уровень фермента SULF2, который может играть важную роль в прогрессировании заболевания.

Ранее учёные выяснили, что томатно-соевый сок снижает воспаление у людей с ожирением.

Технология использует термочувствительные микро- и наногели, реагирующие на температуру повреждённой кожи. Ожоговые раны обычно теплее здоровых тканей.

Исследователи использовали эту особенность для управления лечением. Микро- и наногели, созданные учёными, меняют свойства при температуре от 37 до 42 градусов Цельсия.

Это позволяет постепенно высвобождать антибактериальные, противовоспалительные и регенерирующие вещества в нужный момент. Новая система отличается от традиционных гидрогелевых повязок.

Термочувствительные частицы встроены в гидрогелевую матрицу, что обеспечивает многоступенчатую доставку активных веществ и сочетание нескольких лечебных эффектов в одной повязке. Эксперименты показали, что микро- и наногели эффективно удерживают лекарственные соединения и обеспечивают их контролируемое высвобождение.

Они сохраняют свои свойства после стерилизации, что важно для лечения ожогов. Безопасность системы подтверждена лабораторными исследованиями на моделях кожи и испытаниями на животных.

Авторы проекта считают, что новая технология повысит эффективность лечения тяжёлых ожоговых повреждений и лучше адаптируется к изменениям в ране при заживлении.

По её словам, это редкое, но объяснимое для региона явление. «Почему бы и нет?

Конечно, могло. Это достаточно редкое явление, обычно встречается при очень сильных грозах или когда сильно наэлектризована атмосфера.

Если вчера условия были — ну вполне. И в Подмосковье они тоже встречаются», — пояснила физик.

Она подчеркнула, что точная природа шаровой молнии до сих пор не установлена. Скорее всего, речь идёт об электрическом явлении — своего рода плазменном всплеске.

Наиболее убедительными считаются плазменные и электромагнитные модели, отметила специалист. По её словам, чаще шаровую молнию фиксируют в горных районах, однако Подмосковье в этом смысле ничем не отличается от других территорий.

Ранее стало известно, что в подмосковных Мытищах заметили шаровую молнию. Жители сняли редкое явление на видео.

Молнию увидели в ночь на пятницу, 29 мая. Кадры сняты из окна одного из многоэтажных домов.

Очевидцы заметили, как во время грозы в их сторону медленно двигается светящийся шар, меняющий цвет, и отметили, что объект не похож на самолёт.