Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Кофе и риск рака молочной железы изучается учёными
Учёные изучили результаты 31 крупного когортного исследования и пришли к выводу, что регулярное употребление кофе может быть связано с небольшим снижением риска развития рака молочной железы.

Работа опубликована в журнале Health Science Reports (HSR). Авторы объединили данные исследований, посвящённых влиянию обычного кофе, кофе без кофеина и кофеина на риск развития заболевания.

Выяснилось, что женщины, которые регулярно пьют кофе, сталкиваются с раком груди немного реже, чем те, кто пьёт его редко или не пьёт вовсе. Особенно заметная связь наблюдалась среди женщин после менопаузы.

При этом употребление кофеина отдельно или кофе без кофеина не было связано со значимым изменением риска заболевания. Это может указывать на то, что потенциальную пользу обеспечивают другие биологически активные вещества, содержащиеся в натуральном кофе, а не сам кофеин.

Исследователи подчёркивают, что выявленная связь была умеренной и не доказывает, что кофе напрямую защищает от рака. Однако результаты дополняют данные о возможной роли содержащихся в напитке антиоксидантов и других соединений в поддержании здоровья.

Лента ру

Нейросеть
Связь ощущения старости и проблем со сном раскрыта
Эксперты из Национального фонда сна США провели исследование и выяснили, что у людей, которые ощущают себя старше, чем они есть на самом деле, чаще возникают проблемы со сном.

В ежегодной конференции SLEEP 2026 были представлены результаты этой работы. Учёные изучили данные 3177 взрослых участников эксперимента.

Им задали вопрос о том, на сколько лет они себя ощущают, а затем сопоставили ответы с показателями качества и регулярности сна, выраженности бессонницы и самочувствия в течение дня. Выяснилось, что те, кто чувствовал себя старше своих лет, гораздо чаще жаловались на бессонницу, нерегулярный режим сна и ухудшение самочувствия днём.

Связь между этими явлениями сохранялась даже после учёта таких факторов, как реальный возраст, пол, тревожность и депрессия. Кроме того, нарушения сна частично объясняли более низкие оценки собственного физического здоровья.

Авторы исследования считают, что ощущение преждевременной старости может быть связано с качеством сна. По мнению учёных, улучшение режима и качества ночного отдыха может не только положительно влиять на здоровье, но и помогать людям чувствовать себя моложе и энергичнее.

Ранее стало известно, что кофеин ухудшает качество сна, даже если спать восемь часов.

Лента ру

Черепно-мозговые травмы повышают риск смерти от рака мозга
Исследования показали, что существует связь между черепно-мозговыми травмами и повышенным риском смерти от рака мозга.

Учёные проанализировали данные более чем 20 тысяч пациентов и опубликовали результаты в журнале Neuroepidemiology. В работе рассматривались сведения о людях, которые перенесли черепно-мозговые травмы и проходили реабилитацию в США с 1987 по 2024 год.

Затем исследователи сравнили количество смертей от рака мозга в этой группе с ожидаемыми показателями среди населения с учётом возраста, пола, расы и периода наблюдения. Выяснилось, что люди с черепно-мозговыми травмами умирали от рака мозга в среднем в 1,75 раза чаще, чем можно было ожидать.

Особенно высокий риск наблюдался у пациентов с огнестрельными ранениями головы — вероятность смерти от опухолей мозга в этой группе оказалась более чем в 14 раз выше. Повышенные показатели также были выявлены у людей с некоторыми формами осложнённых лёгких травм мозга.

Авторы исследования предполагают, что важную роль может играть длительное воспаление, которое развивается после повреждения тканей мозга и способно сохраняться годами. По мнению учёных, черепно-мозговую травму следует рассматривать не только как острую проблему, но и как фактор, который может влиять на здоровье в долгосрочной перспективе.

Лента ру

Защитите дом от шаровой молнии
На даче или в деревне дымоход необходимо закрывать, чтобы шаровая молния не проникла в дом через печную трубу.

Об этом сообщил РИА Новости ведущий научный сотрудник физического факультета МГУ Владимир Бычков. По его словам, шаровая молния может попасть в помещение из-за конвекции — она засасывается внутрь, влетает в комнату, а затем крутится, пока не уйдёт с потоком воздуха или не погаснет.

Физик посоветовал не пытаться поймать шаровую молнию или снять её на камеру, если вы её увидели. Нужно просто подождать, пока она не погаснет, что обычно занимает около 20 секунд.

При этом заряд такой молнии очень высок, и при несоблюдении мер безопасности встреча с ней может привести к летальному исходу. Ранее сообщалось, что вероятность встретить шаровую молнию в Московском регионе очень мала.

Лента ру

Другие новости