Опасности обучения ИИ на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Результаты работы опубликованы в журнале Circulation. Учёные проанализировали данные 13 120 детей, рождённых с 1999 по 2020 год в 52 медицинских центрах США и Пуэрто-Рико.

Информацию о курении во время беременности собирали по анкетам, медицинским записям и анализам мочи на котинин — маркер недавнего употребления табака. Измерение артериального давления у детей проводилось в возрасте от 3 до 18 лет.

Выяснилось, что у детей матерей, куривших во время беременности, чаще наблюдались более высокие показатели как систолического, так и диастолического давления, а также повышенный риск диагностированной гипертонии. Наиболее выраженная связь была обнаружена при подтверждённом активном курении по анализам.

Ассоциация была сильнее у девочек и усиливалась с возрастом. Пассивное курение, по данным самоотчётов, статистически значимой связи с повышенным давлением не показало.

Авторы подчёркивают, что повышенное давление в детстве увеличивает вероятность сердечно-сосудистых заболеваний во взрослом возрасте. Они считают, что снижение уровня курения среди беременных может стать одним из способов профилактики гипертонии в популяции.

К такому выводу пришли учёные из Еврейского университета в Иерусалиме после анализа данных более чем миллиона детей в возрасте от 2 до 18 лет за пятилетний период. Результаты исследования опубликованы в Journal of Clinical Sleep Medicine (JCSM).

Обструктивное апноэ сна обычно связано с храпом и дневной сонливостью, но, как показало исследование, его последствия могут быть гораздо серьёзнее. Учёные обнаружили, что у детей с апноэ не только чаще возникают респираторные инфекции, но и выше вероятность развития пневмонии как осложнения вирусной инфекции.

Авторы исследования связывают это с нарушениями в работе иммунной системы. По их словам, при апноэ может происходить дисрегуляция врождённого и адаптивного иммунитета, что делает организм более восприимчивым к вирусам и способствует более тяжёлому течению болезни.

Интересно, что удаление аденоидов и миндалин — распространённый метод лечения детского апноэ — не приводило к значимому снижению риска заражения инфекциями. Это может указывать на сохранение иммунных нарушений даже после операции.

Учёные предлагают рассматривать апноэ сна как маркер повышенного инфекционного риска. Они считают, что детям с таким диагнозом следует уделять особое внимание в рамках профилактики сезонных вирусных заболеваний, включая вакцинацию против гриппа и COVID-19.

Они изучили влияние растительных веществ на иммунные клетки и опубликовали результаты в журнале Nutrients. В лабораторных экспериментах учёные воздействовали на макрофаги — клетки иммунной системы, которые отвечают за запуск воспалительной реакции.

После стимуляции воспаления бактериальным компонентом клетки обрабатывали ментолом, 1,8-цинеолом и капсаицином — как по отдельности, так и в сочетаниях. Наиболее выраженный эффект наблюдался при совместном применении капсаицина с ментолом или эвкалиптовым соединением.

Выяснилось, что в комбинации их эффект возрастает в сотни раз по сравнению с действием каждого компонента по отдельности. Анализ показал, что вещества активируют разные внутриклеточные сигнальные пути.

Ментол и 1,8-цинеол влияют на TRP-каналы и кальциевую регуляцию, а капсаицин подавляет воспалительные процессы через иной механизм. Одновременное воздействие на несколько систем обеспечивает выраженный синергетический эффект.

Авторы работы подчёркивают, что результаты помогают объяснить пользу сочетания специй и ароматических растений в рационе. В будущем такие комбинации могут стать основой для функциональных продуктов и добавок, которые помогут контролировать хроническое воспаление.

Однако для подтверждения эффекта у человека необходимы дополнительные исследования.

К такому заключению пришли учёные, исследовавшие штамм Psychrobacter SC65A.3, который был обнаружен в ледяной пещере Скэришоара в Румынии.

В журнале Frontiers in Microbiology были опубликованы результаты исследования, которые показали, что древний микроорганизм имеет как положительные, так и отрицательные стороны. Специалисты выяснили, что штамм устойчив к некоторым современным антибиотикам и содержит более ста генов, связанных с резистентностью.

В то же время он может подавлять рост определённых антибиотикоустойчивых бактерий и обладает высокой ферментативной активностью. Это открывает новые возможности для биотехнологии и создания новых антимикробных препаратов.

Исследователи отмечают, что экстремальные условия среды способствуют формированию уникальных генетических адаптаций. Именно эти механизмы могут стать основой для разработки новых лекарственных подходов.

Однако есть и обратная сторона: если такие микроорганизмы или их гены попадут в современные условия, они могут усугубить проблему антибиотикорезистентности. Авторы работы считают, что замороженные экосистемы необходимо изучать комплексно.

Они могут быть как источником генов устойчивости, так и местом, где можно найти новые соединения с медицинским потенциалом. В условиях изменения климата и таяния льдов этот вопрос становится особенно актуальным.