Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Учёные выяснили связь мяса с долголетием у пожилых людей
Пожилые люди с недостаточным весом, употребляющие мясо, имеют больше шансов дожить до 100 лет.

Это выяснили китайские учёные, результаты их исследования опубликованы в журнале The American Journal of Clinical Nutrition (AJCN). Специалисты изучили данные 5203 человек старше 80 лет, из которых 1459 дожили до 100 лет, а остальные умерли раньше.

Оказалось, что среди пожилых людей с недостаточным весом те, кто ежедневно ел мясо, имели на 44 процента больше шансов дожить до 100 лет, чем вегетарианцы. У людей с нормальным или избыточным весом такой разницы не обнаружили.

Связь между употреблением мяса и долголетием была заметна прежде всего у женщин, у мужчин подобной зависимости исследователи не выявили. Учёные также выяснили, что пожилые люди, которые не ели мясо, но употребляли рыбу, яйца или молочные продукты, имели примерно такие же шансы дожить до 100 лет, как и мясоеды.

Исследователи предполагают, что дело не столько в самом мясе, сколько в питательных веществах. В пожилом возрасте организму особенно важно получать достаточно белка и калорий, чтобы сохранять мышцы и избегать истощения.

Авторы подчёркивают, что исследование не доказывает, что мясо продлевает жизнь.

Лента ру

Помогать — замедлять ухудшение памяти
Помощь другим людям может замедлить ухудшение памяти и мышления даже у тех, кто имеет генетическую предрасположенность к болезни Альцгеймера.

Учёные, исследования которых опубликованы в журнале Alzheimers & Dementia (A&D), пришли к такому выводу. Они проанализировали данные почти 18 тысяч человек, за здоровьем которых наблюдали в течение 22 лет — с 1998 по 2020 год.

Особое внимание было уделено людям с вариантом гена APOE ε4, который значительно увеличивает риск развития болезни Альцгеймера. Исследователи выяснили, как часто участники занимались волонтёрством или помогали друзьям, соседям и родственникам, с которыми не жили вместе.

Затем они сравнили эти данные с изменениями в памяти и способности мыслить. Оказалось, что у людей, которые регулярно помогали окружающим, память и мышление ухудшались медленнее.

Особенно заметной эта связь была среди участников с высоким генетическим риском болезни Альцгеймера. Расчёты учёных показали, что у таких людей серьёзные нарушения памяти и мышления наступали почти на два года позже, чем у тех, кто не занимался подобной деятельностью.

Положительная связь наблюдалась даже у участников, которые тратили на помощь другим менее четырёх часов в неделю. Авторы предполагают, что забота об окружающих может поддерживать здоровье мозга, в том числе благодаря снижению стресса.

Ранее учёные выяснили, что компоненты кофейных ягод и зёрен могут защищать мозг от повреждений.

Лента ру

Диосгенин уменьшает воспаления при недосыпе
Недостаток сна способен спровоцировать воспалительные процессы в печени и нарушить функционирование кишечника.

Учёные нашли природное вещество, которое может снизить негативные последствия. Результаты их работы опубликованы в журнале Food amp; Function (Famp;F).

Сначала исследователи изучили 265 природных соединений и выбрали наиболее перспективное — диосгенин. Это вещество присутствует в растениях рода диоскорея, некоторые виды которого известны как дикий ямс.

Затем учёные провели эксперимент на мышах, которых лишили сна на 24 часа. Выяснилось, что даже сутки без сна вызывают у животных воспаление печени и кишечника.

Кроме того, менялся состав кишечных бактерий, а стенки кишечника начинали пропускать вредные вещества легче. Из-за этого в печень попадало больше бактериальных токсинов, которые усиливали воспаление.

Однако у мышей, которым заранее давали диосгенин, повреждения были менее выраженными. Вещество помогало уменьшить воспаление, поддержать защитный барьер кишечника и частично восстановить баланс кишечных бактерий.

Дополнительные эксперименты подтвердили, что кишечные бактерии играют важную роль в повреждении печени после недосыпа. Учёные полагают, что диосгенин может стать основой для разработки средств, которые будут защищать организм от последствий нехватки сна.

Ранее исследователи обнаружили, что экстракт кожуры цитрусовых может снижать повреждение клеток печени от алкоголя.

Лента ру

Снизь риск инсульта с диетой DASH
Учёные из Израиля выяснили, что соблюдение диеты DASH может значительно снизить риск ишемического инсульта у пожилых женщин.

Риск снижается на 76 процентов. Это стало известно после изучения связи между питанием и здоровьем людей старше 65 лет.

Результаты исследования опубликованы в журнале Frontiers in Nutrition. Специалисты изучили данные 1177 человек и наблюдали за ними в среднем 6,6 года.

За это время у 60 участников случился ишемический инсульт — нарушение кровоснабжения мозга, которое часто происходит из-за закупорки сосуда тромбом. Учёные анализировали рацион участников и сравнивали его с принципами диеты DASH.

Эта система питания разработана для снижения артериального давления. Диета DASH включает в себя употребление большого количества овощей, фруктов, цельнозерновых продуктов и нежирных молочных продуктов.

При этом рекомендуется ограничивать соль, сладости и жирную пищу. Оказалось, что у женщин, которые придерживались такого питания, риск ишемического инсульта был на 76 процентов ниже.

При этом исследователи учитывали возраст, курение, физическую активность и другие факторы, которые могли повлиять на результаты. Среди мужчин подобной связи обнаружить не удалось.

Учёные пока не знают, почему влияние питания может различаться в зависимости от пола. Ранее стало известно, что регулярное употребление бобовых может снижать риск развития сердечно-сосудистых заболеваний.

Лента ру

Другие новости