Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Создан гель для борьбы с жировой болезнью печени
Учёные из Национального университета Тайваня создали инъекционный гидрогель, который может помочь в борьбе с жировой болезнью печени.

Результаты их исследования опубликованы в журнале Advanced Healthcare Materials (AHM). Эта болезнь связана с нарушениями обмена веществ и затрагивает около 38 процентов населения мира.

Гидрогель содержит клетки печени, компоненты печёночной ткани и таниновую кислоту — природное растительное соединение. Он способен восстанавливать свою структуру после повреждения и создавать условия, близкие к естественной среде клеток печени.

В лабораторных экспериментах учёные установили, что гидрогель помогает уменьшить накопление жира и воспаление в печёночной ткани. Затем они проверили эффективность разработки на крысах с жировой болезнью печени, вызванной питанием с высоким содержанием жиров.

Уже через две недели после введения гидрогеля у животных улучшились показатели работы печени и жирового обмена. Исследователи также зафиксировали уменьшение патологических изменений в печёночной ткани.

Авторы считают, что разработка может стать основой нового малоинвазивного метода лечения жировой болезни печени. Однако безопасность геля и его действие на человека ещё предстоит изучить.

Ранее учёные выяснили, что топлёное сливочное и кокосовое масла могут повышать накопление жира в печени.

Лента ру

Улучши сон — снизь вес
Учёные из Нью-Йоркского университета в США выяснили, что более ранний отход ко сну может помочь снизить вес.

Исследование опубликовано в журнале Nursing Research (NR). В эксперименте участвовали 196 человек в возрасте от 21 до 64 лет с преддиабетом, которые спали менее 6,5 часа в сутки.

Добровольцев разделили на две группы. Все участники проходили восьминедельную программу по изменению образа жизни, которая включала рекомендации по питанию, физической активности и борьбе со стрессом.

Одна из групп дополнительно получала консультации по улучшению сна. Участников учили соблюдать режим отдыха и постепенно переносить время отхода ко сну на более ранние часы.

Выяснилось, что в обеих группах улучшилось качество сна и снизилась масса тела. При этом участники дополнительной программы реже испытывали дневную сонливость и стали раньше засыпать.

Анализ показал, что каждый час более раннего засыпания был связан с потерей примерно 600 граммов веса за восемь недель. Эта связь сохранялась независимо от общей продолжительности сна.

Учёные предполагают, что ранний отход ко сну может уменьшать вероятность ночных перекусов и благоприятно влиять на регуляцию аппетита. Однако ни одна из программ не привела к заметному улучшению уровня глюкозы в крови.

Ранее стало известно, что регулярный режим сна связан со снижением риска сердечно-сосудистых заболеваний.

Лента ру

Спаси жизни — замени соль
Учёные из Института глобального здравоохранения Джорджа выяснили, что замена обычной поваренной соли на соль с добавлением калия может помочь предотвратить почти три миллиона смертей и около 10 миллионов новых случаев сердечно-сосудистых заболеваний и болезней почек в мире каждый год.

Результаты исследования опубликованы в журнале Nature Health. Специалисты смоделировали несколько сценариев — от полной замены обычной соли до её использования только людьми с диагностированной гипертонией — и оценили возможные последствия перехода на обогащённую калием соль в 193 странах.

Соль с добавлением калия отличается от обычной тем, что часть хлорида натрия в ней заменена хлоридом калия. По вкусу и способу использования она практически не отличается от привычной поваренной соли.

Исследователи объяснили, что избыток натрия и недостаток калия способствуют повышению артериального давления, что увеличивает вероятность инсультов, инфарктов и заболеваний почек. Замена соли позволяет одновременно сократить потребление натрия и увеличить поступление калия.

Согласно расчётам, массовый переход на такую соль потенциально способен предотвратить до каждой десятой смерти от сердечно-сосудистых заболеваний в большинстве стран. Однако учёные предупредили, что людям с тяжёлыми заболеваниями почек и принимающим некоторые лекарства необходимо соблюдать осторожность из-за риска повышения уровня калия в крови.

Лента ру

Кудзу помогает сократить употребление алкоголя
Учёные из Калифорнийского университета в Сан-Франциско выяснили, что экстракт растения кудзу может помочь людям с алкогольной зависимостью сократить количество эпизодов чрезмерного употребления спиртного.

Результаты исследования опубликованы в журнале American Journal of Psychiatry (AJP). В эксперименте участвовали 120 взрослых с расстройством, связанным с употреблением алкоголя, которые выпивали большие дозы спиртного не реже одного раза в неделю.

Половина добровольцев получала стандартизированный экстракт кудзу, остальные — плацебо. В течение 12 недель участники принимали препарат примерно за 2,5 часа до предполагаемого употребления алкоголя.

Обе группы также еженедельно получали краткие консультации специалистов. К концу исследования в группе кудзу среднее количество дней с чрезмерным употреблением алкоголя сократилось с 2,15 до 1,42 в неделю.

В группе плацебо показатель практически не изменился — с 2,15 до 2,06 дня. Положительный эффект сохранялся и спустя три месяца после завершения лечения.

Участники хорошо переносили экстракт, а частота побочных эффектов не отличалась от группы плацебо. Авторы исследования считают, что кудзу может стать дополнительным средством для сокращения употребления алкоголя.

Лента ру

Другие новости