Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Томатная паста улучшает когнитивные функции
В ходе клинического исследования было установлено, что регулярное употребление концентрированной томатной пасты на протяжении трёх месяцев способствует улучшению результатов тестов на избирательное внимание и память на имена и лица у здоровых взрослых среднего возраста.

У небольшой подгруппы участников, прошедших МРТ, были выявлены изменения в коммуникации между мозговыми сетями, а уровень белка BDNF показал пограничное повышение. Томат является основным источником ликопина — каротиноида, который нейтрализует нестабильные молекулы кислорода, преодолевает гематоэнцефалический барьер и, как предполагается, уменьшает воспаление мозга и окислительный стресс.

Исследование 2018 года на мышах показало, что ликопин предотвращает вызванную воспалением потерю памяти. Также считается, что он поддерживает нейропластичность через BDNF (белок-нейротрофи).

Рикардо Лопес-Солис провёл рандомизированное испытание с перекрёстным дизайном для здоровых взрослых 40–55 лет. Участники проходили две трёхмесячные фазы, разделённые месячным перерывом.

В томатной фазе они ежедневно употребляли пасту из томатов и соли — 0,5 граммов на килограмм веса, в среднем 35 граммов (две столовые ложки). В контрольной фазе ограничивали употребление томатов, арбуза, папайи, розового грейпфрута и гуавы.

Когнитивное тестирование показало, что томатная паста улучшила избирательное внимание и один аспект ассоциативной памяти: концентрация выросла на 7,2 балла, скорость обработки — на 8,3 балла относительно контроля (около 4 процентов от исходных показателей). Авторы называют эффекты умеренными.

В подгруппе из 14 человек томатная диета была связана со снижением коммуникации внутри сети, помогающей направлять внимание, и слуховой сети. Авторы предполагают, что снижение межсетевого «шума» может отражать большую нейронную эффективность.

Томаты содержат и другие полезные вещества, например, витамин C, бета-каротин и полифенолы, которые могли действовать совместно. Выборка была небольшой, поэтому будущим исследованиям потребуется проверить более крупные и разнообразные группы.

Московский комсомолец

Сотаглифлозин подавляет активность тромбоцитов
Учёные из Мичиганского университета выяснили, что сотаглифлозин, который используется для снижения уровня сахара в крови и уменьшения сердечно-сосудистых рисков у некоторых пациентов, может препятствовать образованию тромбов.

Результаты исследования опубликованы в журнале Journal of Clinical Investigation (JCI). Ранее было известно, что препарат снижает вероятность инфаркта и инсульта, но механизм этого действия был не до конца понятен.

В ходе экспериментов учёные обнаружили, что сотаглифлозин подавляет чрезмерную активность тромбоцитов — клеток крови, которые при склеивании образуют тромбы. Такие сгустки могут перекрывать кровоток к сердцу или мозгу.

В лабораторных условиях сотаглифлозин уменьшал активность тромбоцитов в образцах крови здоровых людей и пациентов с диабетом второго типа. При этом другой препарат от диабета — эмпаглифлозин — практически не оказывал такого действия.

В опытах на мышах сотаглифлозин сокращал образование тромбов примерно на 60 процентов, тогда как эмпаглифлозин — лишь на 5–10 процентов. Исследователи установили, что эффект частично связан с блокировкой белка SGLT1, который участвует в переносе глюкозы.

Лента ру

Улучшай сон для здоровья
Учёные выяснили, что регулярность сна и стабильное время засыпания и пробуждения связаны со снижением риска преждевременной смерти, в том числе от сердечно-сосудистых заболеваний.

Результаты исследования опубликованы в журнале Sleep Health (SH). Специалисты изучили данные 4340 взрослых участников исследования Sleep Heart Health Study.

Они оценивали шесть характеристик сна и их связь с общей смертностью. Отдельно изучили риск смерти от сердечно-сосудистых заболеваний у 3790 человек.

Исследователи выделили 64 возможных сочетания здоровых и неблагоприятных характеристик сна. Это позволило выяснить, какие особенности ночного отдыха сильнее всего связаны с продолжительностью жизни.

Выяснилось, что наиболее важными факторами были непрерывность сна и его время. Люди со стабильным режимом и менее прерывистым сном имели более низкий риск смерти от любых причин.

При этом время сна оказалось наиболее устойчиво связано с риском смерти от сердечно-сосудистых заболеваний. Участники, у которых наблюдалось несколько неблагоприятных характеристик сна, имели наиболее высокий прогнозируемый риск смерти в течение десяти лет.

Дополнительный анализ показал, что негативные особенности сна действовали независимо друг от друга, а их влияние накапливалось. Авторы считают, что для поддержания здоровья важно учитывать качество сна в целом, а не ориентироваться исключительно на количество часов.

Лента ру

Загрязнение воды влияет на риск заболевания
Учёные из Гарвардской медицинской школы выяснили, что проживание рядом с промышленными объектами, которые загрязняют воду, повышает риск развития прогрессирующего надъядерного паралича — редкого нейродегенеративного заболевания.

Результаты исследования опубликованы в журнале Neurology. Прогрессирующий надъядерный паралич похож на болезнь Паркинсона, но вызывает более серьёзные нарушения движений, равновесия и координации.

Заболевание обычно развивается быстрее и хуже поддаётся лечению. Исследователи изучили данные более 500 тысяч человек, за которыми наблюдали до 25 лет.

За это время заболевание выявили у 221 человека. Учёные сопоставили адреса участников с расположением промышленных объектов, выбрасывающих загрязняющие вещества в воду.

Выяснилось, что проживание в пределах 4,8 километра от предприятий, загрязняющих воду пестицидами, повышает риск заболевания на 66 процентов. Для неорганических загрязнителей показатель составил 60 процентов, органических соединений — 52 процента, а тяжёлых металлов — 38 процентов.

Среди потенциально опасных веществ исследователи выделили пестициды, бензол, свинец, ртуть и кадмий. Вероятность заболевания снижалась по мере увеличения расстояния от источников загрязнения.

Значение могла иметь и продолжительность проживания рядом с такими объектами. Авторы исследования подчеркнули, что работа не доказывает прямую связь между загрязнением воды и развитием заболевания.

Однако абсолютный риск прогрессирующего надъядерного паралича остаётся низким.

Лента ру

Другие новости