Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Какао поддерживает здоровье мозга
Учёные, которые обобщили данные клинических и экспериментальных исследований, пришли к выводу, что полифенолы, содержащиеся в какао, могут поддерживать здоровье мозга и улучшать настроение.

Этот вывод опубликован в журнале Frontiers in Nutrition. Было обнаружено, что употребление какао может уменьшать симптомы депрессии и улучшать эмоциональное состояние.

Возможный механизм действия связан с влиянием на дофаминовую систему, нейропластичность и обработку эмоций. Кроме того, полифенолы какао могут действовать как пребиотики, поддерживая полезные бактерии в кишечнике.

Это может влиять на воспаление, стресс и настроение через ось «кишечник — мозг». В экспериментах на животных какао улучшало память, способствовало образованию новых нервных связей и снижало окислительный стресс.

Однако данные о влиянии какао на когнитивные функции у людей остаются неоднозначными: польза чаще проявлялась для отдельных показателей, таких как внимание, усталость и работа в стрессовых условиях. Исследователи считают какао перспективным продуктом для поддержки мозга и эмоционального благополучия, но подчёркивают, что для точных выводов необходимы дополнительные клинические исследования.

Ранее учёные выяснили, что регулярное употребление бабл-ти связано с более высоким риском тревожности.

Лента ру

Употребляй фруктовые соки и сладкие напитки умеренно
Учёные провели исследование, в котором приняли участие более 25 тысяч человек.

За участниками наблюдали на протяжении 25 лет, и в результате было установлено, что регулярное употребление фруктовых соков и сладких напитков в детстве может увеличивать риск развития гипертонии во взрослом возрасте. Результаты исследования опубликованы в журнале Circulation.

Участники исследования регулярно сообщали о своём рационе, включая потребление газировки, спортивных напитков, соков и фруктов. Выяснилось, что у людей, которые выпивали не менее двух порций сладких напитков в день, риск повышенного давления в будущем был на 52 % выше по сравнению с теми, кто употреблял их реже трёх раз в неделю.

Каждая ежедневная порция газировки увеличивала риск на 23 %, а спортивных напитков — на 36 %. Неожиданные результаты были получены и для фруктовых соков: у людей, выпивавших не менее полутора порций сока в день, риск гипертонии оказался на 35 % выше.

Особенно выраженная связь наблюдалась для апельсинового сока: каждая ежедневная порция ассоциировалась с повышением риска на 20 %. При этом цельные фрукты такого эффекта не показали.

Более того, расчёты учёных показали, что замена одной ежедневной порции сладкого напитка фруктами может снизить риск гипертонии на 22 %, а замена сока фруктами — на 19 %. Авторы исследования подчёркивают, что для здоровья сердца и сосудов предпочтение следует отдавать именно цельным фруктам, а сладкие напитки и даже 100-процентные соки употреблять умеренно.

Лента ру

Хлорелла поддерживает здоровье кишечника и мозга
Учёные из Испании проанализировали результаты исследований о влиянии пищевой добавки хлореллы на организм и пришли к выводу, что эта популярная микроводоросль может снижать воспаление в кишечнике и поддерживать здоровье мозга.

Работа опубликована в журнале Nutrients. В обзоре рассмотрено 21 исследование, большинство из которых проводилось на животных, но также были включены данные с участием людей.

Анализ показал, что употребление хлореллы часто сопровождалось улучшением состава кишечной микробиоты, увеличением разнообразия полезных бактерий и снижением уровня воспалительных процессов. Учёных особенно заинтересовало влияние водоросли на ось «кишечник — мозг».

Исследования показали, что хлорелла может способствовать выработке короткоцепочечных жирных кислот, укреплять кишечный барьер и уменьшать проникновение воспалительных молекул в организм. В некоторых работах это также сопровождалось улучшением памяти, снижением тревожности и признаков депрессии.

Исследователи связывают эти эффекты с богатым составом хлореллы. Она содержит белки, пищевые волокна, каротиноиды, хлорофилл и другие биологически активные вещества, которые могут влиять на микробиоту и иммунную систему.

Лента ру

Кожура апельсина снижает воспаление
Учёные выяснили, что апельсиновая кожура может быть источником веществ с противовоспалительным эффектом.

Они изучили влияние водного экстракта апельсиновой кожуры и содержащегося в ней флавоноида гесперидина. Результаты исследования опубликованы в журнале Food & Function (F&F).

В экспериментах использовались клетки человека, лабораторные животные и компьютерные модели. Исследователи оценивали, как экстракт влияет на нейтрофилы — клетки иммунной системы, которые участвуют в развитии воспаления.

Выяснилось, что экстракт и гесперидин значительно снижают выработку активных форм кислорода и подавляют активацию нейтрофилов. На крысах было показано, что оба вещества уменьшают воспаление и отёк.

Их действие сопоставимо с эффектом аспирина. Компьютерный анализ подтвердил, что гесперидин может взаимодействовать с несколькими молекулярными мишенями, связанными с воспалительными процессами.

Авторы работы объясняют противовоспалительный эффект сочетанием нескольких механизмов действия, включая подавление ферментов и сигнальных путей, участвующих в развитии хронического воспаления. Исследователи считают, что апельсиновая кожура и гесперидин могут стать основой для создания функциональных продуктов питания и пищевых добавок, которые помогут снизить воспалительные процессы в организме.

Ранее было установлено, что соединения из цитрусовых защищают мозг при ишемическом инсульте.

Лента ру

Другие новости