Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Связь поздних приёмов пищи с риском сердечно-сосудистых заболеваний
В статье, опубликованной в журнале Nutrients, учёные сообщили, что поздний завтрак и ужин могут повышать риск сердечно-сосудистых заболеваний у пожилых людей.

В исследовании участвовали 1305 жителей Китая старше 60 лет. Выяснилось, что у тех, кто завтракал после 7:00, сердечно-сосудистые заболевания встречались на 75 % чаще, чем у тех, кто ел до 6:00.

Связь со временем ужина была ещё более выраженной: приём пищи после 18:00 повышал вероятность таких заболеваний в 2,6 раза по сравнению с ужином до 17:00. Учёные также изучили общий режим питания участников.

У тех, кто начинал и заканчивал есть позже в течение дня, риск сердечно-сосудистых заболеваний был на 56 % выше, чем у людей с обычным режимом питания. Более раннее питание, напротив, снижало этот показатель на 45 %, хотя эта разница не достигла статистической значимости.

Авторы предполагают, что поздние приёмы пищи могут нарушать соответствие питания циркадным ритмам организма. Вечером чувствительность к инсулину снижается, и организм хуже перерабатывает глюкозу и жиры.

Поэтому поздняя еда может создавать дополнительную нагрузку на сердечно-сосудистую систему.

Лента ру

Связь ультрапереработанной пищи с риском атеросклероза выяснили учёные
Учёные опубликовали в журнале Frontiers in Nutrition исследование, в котором говорится, что частое употребление ультрапереработанных продуктов увеличивает риск развития атеросклероза.

В работе проанализировали данные 133 797 участников UK Biobank, у которых изначально не было атеросклероза. За время наблюдения, которое длилось примерно 11 лет, болезнь выявили у 654 человек.

Ультрапереработанная пища — это продукты, которые прошли интенсивную промышленную обработку и обычно содержат много добавок. К таким продуктам относятся сладкие напитки, готовые снеки, некоторые полуфабрикаты и переработанные мясные изделия.

Оказалось, что у людей, которые употребляли больше всего ультрапереработанной пищи, риск атеросклероза был на 40 процентов выше, чем у участников с минимальным её потреблением. Если оценивать количество ультрапереработанных продуктов в граммах, разница составила 29 процентов.

Связь сохранялась после учёта других факторов, которые могут влиять на состояние сердечно-сосудистой системы. Дополнительный анализ крови показал, что высокое потребление ультрапереработанной пищи связано с изменениями десятков белков и метаболитов.

Они были связаны с нарушениями обмена жиров и энергии, а также воспалительными процессами. Авторы считают, что именно эти изменения могут частично объяснять связь такого рациона с повреждением сосудов.

Лента ру

Учёные Кубы создали препарат от рака
Министр иностранных дел Кубы Бруно Родригес Паррилья объявил о разработке кубинскими учёными препарата для борьбы с онкологическими заболеваниями.

Это стало возможным несмотря на ужесточение торгово-экономической и энергетической блокады острова со стороны США. Специалисты Центра молекулярной иммунологии (CIM) создали препарат-кандидат 2C12.

Он имеет характеристики, схожие с пембролизумабом — средством, которое широко применяется в мире для стимуляции иммунного ответа организма против опухолевых клеток. Министр подчеркнул, что это достижение стало возможным в непростой для Кубы период — на фоне энергетического кризиса и значительного ужесточения блокады.

Он отметил, что создание препарата свидетельствует о стремлении кубинских учёных обеспечить суверенитет в сфере снабжения лекарствами. Родригес Паррилья уточнил, что это особенно важно в лечении онкологических заболеваний, которые являются одной из основных причин смертности на Кубе.

Московский комсомолец

Нейросеть
Богомолы атакуют Россию
Жительница города Жуковского в Московской области обнаружила на своём балконе гигантское насекомое, которое сидело на домашнем растении.

Девушка не испугалась незваного гостя, а даже наоборот — назвала его Игорем и оставила у себя. В Уфе похожее насекомое запрыгнуло на плечо парню во время прогулки.

Из Татарстана (город Зеленодольск) и Саратовской области приходят сообщения о том, что богомолы проникают уже в жилища россиян: одного нашли на шторе, другой «отдыхал» на перилах в подъезде. Мы решили разобраться, почему именно в августе началось нашествие богомолов там, где их никогда не водилось.

Судя по внешним описаниям насекомых (огромные, зелёные, коричневатые), россияне сталкиваются в основном с обыкновенным богомолом (от лат. Mantis religiosa) из семейства настоящих богомолов отряда богомоловых.

Это хищник с цепкими передними конечностями, в которые нередко попадаются более мелкие насекомые, а иногда и такие же богомолы. Учёные из Университета штата Нью-Йорк в колумбийской Фредонии и австралийского Университета Маккуори детально разобрались в процессе каннибализма богомолов.

Выяснилось, что самка (которая заметно крупнее самца) первым делом откусывает своему партнёру голову, а затем поглощает и тело с конечностями. Делает она это в том случае, если забыла перед любовными утехами плотно перекусить.

Поскольку для развития потомства нужно много белка, она предпочитает получить его сразу, не тратя времени на поиски добычи. Исследования показали, что у самок, съевших партнёра, появляется больше здоровых личинок.

В августе и начале сентября богомолы достигают взрослого возраста (имаго), становятся крупнее и пускаются на поиски пары. Из-за своего активного перемещения в пространстве они и попадаются чаще на глаза людям.

Учёные связывают появление этих насекомых на широте Москвы с последствиями глобального потепления и непродолжительными зимами, которые позволяют им пережить холодное время года в виде яиц, отложенных в специальные защитные капсулы — оотеки. Богомолы не несут угрозы людям, наоборот, в летний период избавляют нас от насекомых-вредителей в садах.

Однако не стоит хватать богомола, заходя спереди, — он может обороняться цепкими передними лапами. Чтобы избавиться от непрошеного гостя в квартире, энтомологи советуют либо аккуратно взять его за спинку и вынести на улицу, либо накрыть стеклянной банкой, затем подсунуть лист плотной бумаги или картона под дно ёмкости, чтобы богомол оказался на этом листе, и вынести в сад или парк.

Московский комсомолец

Другие новости