Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Уксус защищает печень от алкоголя
Учёные из Китая провели исследование, в ходе которого выяснили, что в обычном уксусе содержатся вещества, способные защитить печень от повреждений, вызванных употреблением алкоголя.

Результаты их работы опубликованы в журнале Food & Function (F&F). Специалисты изучали экстракты уксуса и обнаружили в них полифенолы — соединения с антиоксидантными и противовоспалительными свойствами.

В традиционном ферментированном уксусе нашли 20 таких веществ, среди которых наиболее распространённой оказалась 4-гидроксибензойная кислота. Эксперименты на лабораторных мышах показали, что экстракт уксуса снижает уровень печёночных ферментов АЛТ и АСТ, повышение которых может свидетельствовать о повреждении печени.

Также он уменьшает воспаление и окислительный стресс — процесс, при котором клетки повреждаются из-за избытка активных форм кислорода. Учёные установили, что защитное действие уксуса частично связано с кишечной микрофлорой.

Экстракт способствовал увеличению количества полезных для кишечной среды бактерий Akkermansi и Bacteroides, а также снижению численности Escherichia. Одновременно улучшалось состояние кишечного барьера, что помогало уменьшить поступление в организм веществ, вызывающих воспаление.

Авторы исследования считают, что полифенолы, содержащиеся в уксусе, могут стать основой для разработки средств профилактики алкогольного поражения печени.

Лента ру

Профессор Саврей ушёл из жизни
Профессор Валерий Саврей, работающий на кафедре философии религии и религиоведения философского факультета Московского государственного университета имени М.

В. Ломоносова и Московской духовной академии, скончался.

Об этом стало известно из сообщения кафедры философии и религиоведения МГУ. Валерий Яковлевич был автором исследований, посвящённых истории философско-богословской мысли ранней патристики.

Более пятнадцати лет он трудился на благо кафедры. Коллектив кафедры выразил глубокие соболезнования семье и близким Валерия Яковлевича.

Дальнейшие подробности не разглашаются.

Лента ру

Паприка влияет на здоровье крыс
Учёные провели исследование, в котором изучили влияние копчёной паприки на организм лабораторных крыс.

Они опубликовали результаты в журнале Food & Function (F&F). В эксперименте участвовали 30 здоровых крыс, среди которых было 16 самок и 14 самцов.

В течение месяца животным давали обычный корм или рацион с добавлением 5% копчёной или некопчёной паприки. Исследователи оценили показатели крови, обмен веществ, состояние внутренних органов и состав кишечной микрофлоры.

У самок, получавших копчёную паприку, были более низкие показатели общего и «плохого» холестерина (ЛПНП). У них также наблюдалось более высокое разнообразие кишечных бактерий и меньшее содержание жиров в кишечнике.

Учёные предполагают, что изменения кишечной микрофлоры могут быть связаны с особенностями обмена жиров. При этом воздействие паприки зависело от пола животных и способа обработки специи.

Копчёная и обычная паприка по-разному влияли на продукты обмена веществ. Это может объясняться изменениями химического состава специи при копчении, в том числе появлением соединений из древесного дыма.

Исследователи не обнаружили повреждений внутренних органов, связанных с употреблением паприки. Показатели крови и обмена веществ оставались в пределах физиологической нормы.

Ранее стало известно, что куркума полезна для улучшения памяти при болезни Альцгеймера.

Лента ру

Тадалафил ускоряет размножение клеток мышечной ткани
Итальянские исследователи из Римского университета Форо Италико обнаружили, что тадалафил, который используется для лечения эректильной дисфункции, может способствовать восстановлению мышечной ткани.

Их выводы опубликованы в журнале Molecular Biology Reports (MBR). Учёные изучали влияние тадалафила на миобласты — клетки-предшественники, из которых формируются мышечные волокна.

В течение недели клетки обрабатывали препаратом, а затем оценивали их размножение, выживаемость и способность к созреванию. Оказалось, что тадалафил ускоряет размножение клеток и снижает их гибель.

При этом он замедляет их превращение в зрелые мышечные волокна, что позволяет дольше сохранять способность клеток к делению. Это может увеличить запас молодых клеток для последующего восстановления мышц.

Кроме того, тадалафил снижает активность миостатина и TGF-β — веществ, регулирующих рост мышечной ткани. В то же время повышается активность белка Sirt3, который участвует в энергетическом обмене и защите клеток, и интерлейкина-6 (IL-6), связанного с воспалительными процессами и восстановлением мышц.

Авторы исследования считают, что такой эффект может быть полезен при лечении заболеваний, сопровождающихся потерей мышечной массы.

Лента ру

Другие новости