Опасности обучения ИИ на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

В исследовании участвовали 884 пациента с ранней стадией рака лёгкого, среди которых было 114 человек старше 80 лет. Выяснилось, что продолжительность жизни пожилых пациентов после операции была сопоставима с более молодыми.

Несмотря на то что в раннем послеоперационном периоде у пожилых пациентов чаще возникали осложнения, большинство из них восстанавливались, а качество жизни улучшалось в течение года. Рак лёгкого чаще диагностируется у пожилых людей, однако именно возраст часто становится причиной отказа от операции.

Авторы исследования подчёркивают, что ключевым фактором должно быть не количество прожитых лет, а общее состояние здоровья пациента и его способность перенести вмешательство. При раннем выявлении заболевания операция может дать шанс на излечение даже в преклонном возрасте.

Подход к лечению должен пересматриваться: пожилые пациенты не должны автоматически исключаться из потенциально эффективной терапии.

Результаты исследования опубликованы в журнале Nature Medicine (NatMed). Учёные оценивали влияние 73 факторов, включая уровень загрязнения воздуха, климат, доступ к медицине и социальную поддержку.

Выяснилось, что совокупное воздействие этих факторов объясняет изменения в старении мозга в 15 раз лучше, чем любой отдельный фактор. Особенно заметный эффект наблюдался, когда неблагоприятные условия накладывались друг на друга, усиливая взаимное влияние.

Физические факторы, такие как загрязнение воздуха, высокая температура и нехватка зелёных зон, были связаны с изменениями структуры мозга, особенно в областях, отвечающих за память и эмоции. Социальные условия, включая бедность, неравенство и хронический стресс, сильнее влияли на функции мышления, поведения и эмоциональной регуляции.

Авторы исследования подчёркивают, что здоровье мозга определяется не только образом жизни человека, но и средой, в которой он живёт. Ранее стало известно, что силовые тренировки замедляют старение мозга и улучшают его работу.

Этот вывод сделали исследователи, и результаты их работы были опубликованы в журнале Nutrients. Учёные изучили воздействие какао сначала на клеточном уровне в сосудах, а потом на двух моделях глазных заболеваний у мышей.

В лабораторных условиях какао уменьшало активность белка HIF-1α, который активизируется при недостатке кислорода и запускает производство веществ, способствующих росту новых сосудов. Кроме того, какао снижало активность VEGF и других молекул, которые связаны с воспалением и патологическим изменением тканей.

В результате сосудистые клетки хуже мигрировали и реже формировали новые сосудистые структуры. При моделировании повреждения роговицы какао уменьшало площадь аномального прорастания сосудов, снижало уровень маркеров воспаления и фиброза.

В модели дегенерации сетчатки какао помогало сохранить её наружный слой, уменьшало повреждение поддерживающих клеток и поддерживало уровень родопсина — белка, который необходим для нормальной работы светочувствительных клеток глаза. Авторы исследования считают, что какао может действовать как пищевой модулятор воспалительных и сосудистых процессов, которые связаны с ухудшением зрения.

Но работа проводилась на клетках и животных, поэтому утверждать, что такой же эффект будет у людей, пока рано. Для подтверждения результатов потребуются клинические исследования.

Ранее учёные выяснили, что экстракт из кофейной мякоти уменьшает воспаление и защищает от него кишечник.

Об этом проинформировала в Telegram-канале лаборатория солнечной астрономии Института космических исследований (ИКИ) РАН. В ИКИ РАН уточнили, что летучие вещества кометы развеялись в солнечной короне.

Возможно, крупные фрагменты упали на поверхность звезды. Часть пылевого хвоста кометы была отделена и вытеснена давлением света во внешнюю корону, где она вскоре полностью рассеется, как подчеркнули учёные.

До этого сообщалось, что на Земле начались магнитные бури уровня G1-G2. Эксперты оценили вспышечную активность на Солнце как умеренную, но отметили, что она находится в зоне риска.

Ранее россиянам рассказали о рисках радиационного шторма.