Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Контролируй биоритмы при диабете
Люди с диабетом второго типа могут контролировать уровень сахара в крови с помощью регулярного распорядка дня.

Исследования, проведённые учёными из Медицинского колледжа Корейского университета, показали, что стабильные биоритмы помогают поддерживать нормальный уровень глюкозы. Результаты были опубликованы в журнале Metabolism.

В эксперименте участвовали 122 пациента с диабетом второго типа, которые получали инсулин. В течение десяти дней они носили устройства для непрерывного измерения глюкозы и фитнес-трекеры.

Учёные следили за продолжительностью сна, физической активностью, частотой сердечных сокращений и регулярностью суточных биоритмов участников. Оказалось, что среди пациентов с наиболее стабильными биоритмами 46,3 % достигли целевых показателей сахара, в то время как среди людей с нерегулярным режимом — только 20 %.

Физическая активность наиболее сильно влияла на контроль глюкозы с 12:00 до 18:00. Пациенты, которые больше двигались в эти часы, дольше сохраняли сахар в целевом диапазоне и сталкивались с меньшими его колебаниями.

Достаточная продолжительность сна также способствовала более стабильному уровню глюкозы и снижала риск гипогликемии. Авторы исследования считают, что соблюдение регулярного режима сна и физической активности может стать важным дополнением к традиционным методам лечения диабета.

Ранее было обнаружено, что регулярное употребление арахиса может снижать риск развития диабета второго типа.

Лента ру

Блокируй фермент BCAT1 для сохранения работы сердца
Учёные из Нагойского университета в Японии выяснили, что блокировка фермента BCAT1 помогает уменьшить образование рубцовой ткани в сердце после инфаркта и сохранить его способность перекачивать кровь.

Эксперименты проводились на мышах, результаты опубликованы в журнале Journal of Clinical Investigation (JCI). После инфаркта повреждённые участки сердечной мышцы замещаются соединительной тканью, содержащей коллаген.

Это необходимо для заживления, но избыточное образование рубцов уплотняет сердечную мышцу и нарушает её работу. Исследователи обнаружили, что BCAT1 способствует развитию фиброза, обеспечивая клетки пролином — аминокислотой, которая нужна для производства коллагена.

В экспериментах мыши с отключённым геном BCAT1 после инфаркта образовывали меньше рубцовой ткани и лучше сохраняли сердечную функцию по сравнению с обычными мышами. Такой же эффект наблюдался при применении ингибитора ERG240, который блокирует работу фермента.

Препарат оказался эффективен даже в тех случаях, когда лечение начинали через семь дней после инфаркта, то есть после начала формирования рубцов. Анализ тканей сердца пациентов с сердечной недостаточностью показал повышенный уровень BCAT1 в участках с выраженным фиброзом.

Учёные считают, что подавление активности этого фермента может стать основой нового метода профилактики сердечной недостаточности после инфаркта. Ранее стало известно, что препарат для лечения диабета эмпаглифлозин дополнительно защищает сердце.

Лента ру

Лукьянов назвал предел жизни человека
Сергей Лукьянов, ректор Пироговского университета и академик РАН, в комментарии для РИА Новости заявил, что предел человеческой жизни составляет 120–125 лет.

За последние сто лет человечество ежегодно прибавляло по полгода к продолжительности жизни, однако, по словам эксперта, это не позволяет преодолеть указанный предел. Лукьянов подчеркнул, что, несмотря на прогресс, дольше 120–125 лет прожить никому не удавалось ни в прошлом, ни в настоящем.

Также ректор отметил, что среди людей старше 80 лет половина страдает от деменции. Это, по его словам, напоминает о том, что долгая жизнь не всегда является качественной и комфортной.

Именно эти вопросы, по мнению Лукьянова, требуют решения от современных учёных. В заключение он высказал мысль о том, что в биологических организмах заложена огромная способность к обновлению и репарации (восстановлению исходной структуры молекулы ДНК).

Ранее в октябре стало известно о секрете долголетия 113-летнего мужчины. Кен Уикс, родившийся в один день с 114-летним Жуаном Мариньо Нето из Бразилии, поделился своими мыслями на этот счёт.

Лента ру

Выявляй риски по анализу крови
В будущем обычный анализ крови сможет помочь обнаружить опасные изменения в печени и спрогнозировать риск серьёзных осложнений, включая рак.

К такому выводу пришли специалисты Университета Синсю в Японии. Результаты их исследования опубликованы в журнале JHEP Reports.

Учёные изучили данные более пяти тысяч человек, среди которых были пациенты с жировой болезнью печени. При этом заболевании в органе накапливается избыточный жир, что со временем может вызвать воспаление, образование рубцовой ткани и нарушение работы печени.

Исследователи обнаружили, что о состоянии печени может свидетельствовать уровень белка C7 в крови. Выявлена закономерность: чем выше концентрация этого белка, тем сильнее повреждение органа и тем выше риск развития осложнений.

Например, у пациентов с уровнем C7 выше 140 мкг/мл риск серьёзных осложнений был примерно в 4,5 раза выше даже после учёта других факторов. К таким осложнениям относятся рак печени и другие тяжёлые последствия заболевания.

Дополнительные эксперименты показали, что белок C7 связан с работой клеток, участвующих в образовании рубцовой ткани. Это объясняет, почему его концентрация может указывать на ухудшение состояния печени.

Авторы считают, что в будущем измерение C7 в крови может стать простым способом выявления пациентов с высоким риском осложнений. Ранее учёные выяснили, что берберин может уменьшать накопление жира в печени и защищать её от воспаления.

Лента ру