Опасности обучения ИИ на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Учёные, опубликовавшие результаты своих исследований в журнале Frontiers in Pharmacology, пришли к такому выводу. Ягоды, семена и листья облепихи содержат флавоноиды, витамины, каротиноиды и полезные жирные кислоты.

Эти компоненты способствуют снижению воспалительных процессов, защищают клетки от повреждений и укрепляют иммунную систему. В ходе экспериментов было установлено, что облепиха положительно влияет на показатели печени, снижает уровень холестерина и поддерживает работу сердечно-сосудистой системы.

Особенно выражен положительный эффект для пищеварительной системы: полисахариды, содержащиеся в облепихе, улучшают состояние микрофлоры кишечника, усиливают его защитные функции и способствуют нормализации обмена веществ. Кроме того, зафиксированы положительные воздействия на мозг, включая снижение воспаления и поддержку когнитивных функций.

Учёные подчёркивают, что облепиха уже активно применяется в продуктах питания, косметике и добавках благодаря своему богатому составу. Однако для окончательного подтверждения всех положительных эффектов требуются дополнительные клинические исследования.

Ранее сообщалось, что экстракт малины способствует снижению проявлений жировой болезни печени.

Бобовые, злаки, орехи и семена — это не только источники белка, но и кладезь клетчатки и биологически активных веществ. Они помогают регулировать аппетит, улучшают обмен веществ и поддерживают здоровье кишечника.

Исследования показывают, что регулярное употребление растительных белков связано с более низким риском сердечно-сосудистых заболеваний, диабета 2-го типа и хронической болезни почек. Это объясняется их способностью снижать уровень «плохого» холестерина, улучшать чувствительность к инсулину и уменьшать воспаление.

Учёные подчёркивают, что наибольшую пользу приносит не отдельный продукт, а общий сбалансированный рацион. Сочетание растительного белка с клетчаткой и другими компонентами пищи усиливает положительное влияние на здоровье и может стать основой профилактики хронических заболеваний.

Они изучили метаболические и клеточные механизмы, которые лежат в основе этого эффекта, и опубликовали результаты в журнале Frontiers in Nutrition. Оказалось, что при таком режиме питания организм переключается с использования сахара на жиры, в результате чего вырабатываются кетоновые тела — альтернативный источник энергии для мозга.

Это имеет большое значение при болезни Альцгеймера, поскольку при этом заболевании нарушается использование глюкозы. Благодаря интервальному голоданию мозг получает «запасной» источник питания.

Кроме того, при интервальном голодании активизируются процессы «очистки» клеток — аутофагия, что способствует удалению повреждённых белков и снижению воспаления в мозге. Также повышается уровень BDNF — вещества, которое поддерживает нейроны и улучшает связи между ними.

Это важно для памяти и мышления. Авторы исследования подчёркивают, что все эти эффекты в совокупности могут снижать накопление токсичных белков, связанных с болезнью Альцгеймера, и поддерживать когнитивные функции.

Однако, несмотря на перспективность результатов, учёные отмечают, что для подтверждения пользы такого подхода для людей необходимы дополнительные клинические исследования. Ранее было установлено, что добавки с омега-3 жирными кислотами могут быть связаны с ускоренным снижением памяти.

В эксперименте участвовали 102 человека, которые придерживались либо кетогенной диеты с резким ограничением углеводов, либо обычной низкокалорийной диеты. Выяснилось, что у тех, кто следовал кетогенному режиму питания, жир в печени уменьшался значительно быстрее: выраженное улучшение зафиксировали у 84 процентов участников, в то время как во второй группе этот показатель составил 45 процентов.

Исследователи объясняют это тем, что сокращение углеводов снижает уровень инсулина и тормозит образование жира в печени. В свою очередь, организм начинает активнее использовать жиры как источник энергии, что ускоряет их «сжигание», в том числе в области внутренних органов.

Вместе с тем кетогенная диета приводила к более заметной потере мышечной массы, поэтому специалисты советуют сочетать её с достаточным потреблением белка и физической активностью. Ранее учёные установили, что ожирение, повышенное давление и апноэ увеличивают риск жировой болезни печени.