Опасности обучения ИИ на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Об этом говорится в исследовании, опубликованном в журнале BMC Cardiovascular Disorders. В эксперименте участвовали свыше 3,2 тысячи человек среднего возраста, за ними наблюдали примерно 10 лет.

Исследователи применяли носимые устройства для оценки регулярности времени засыпания и пробуждения. За время наблюдений у 128 участников произошли серьёзные сердечно-сосудистые события — инфаркт, инсульт, сердечная недостаточность или смерть по соответствующим причинам.

Выяснилось, что у людей с нерегулярным временем засыпания риск таких событий был примерно в два раза выше по сравнению с теми, кто ложился спать в одно и то же время. Особенно заметная связь прослеживалась у тех, кто спал меньше восьми часов в сутки.

При этом нестабильное время пробуждения не оказало значимого влияния на риск. Авторы исследования подчёркивают: важна не только длительность сна, но и его стабильность.

Соблюдение регулярного режима, особенно постоянное время отхода ко сну, может оказаться простым и доступным способом снижения сердечно-сосудистых рисков. Ранее стало известно, что кофеин частично восстанавливает память, нарушенную из-за недостатка сна.

Исследование опубликовано в журнале Frontiers in Psychiatry. В эксперименте участвовали 1587 студентов.

Они заполняли анкеты, которые оценивали уровень их зависимости от интернета, качество сна, дневную сонливость и симптомы депрессии. Оказалось, что между зависимостью от интернета и качеством сна есть связь: чем выше зависимость, тем хуже качество сна и тем чаще возникает выраженная сонливость днём.

Ключевым фактором оказалась именно нарушенная структура сна. Это частично объясняет, почему активное использование интернета связано с усталостью и снижением бодрствования.

Кроме того, выяснилось, что симптомы депрессии усиливают этот эффект. Из-за этого связь между интернет-зависимостью и проблемами со сном становится более выраженной.

Авторы исследования подчёркивают, что здесь действует комплексный механизм, в котором психологическое состояние и повседневные привычки усиливают влияние друг друга. Они считают, что контроль времени, проводимого в сети, и внимание к качеству сна могут помочь снизить дневную сонливость и улучшить общее самочувствие.

Учёные выяснили, что такие добавки способны уменьшать воспалительные процессы, оптимизировать обмен веществ и поддерживать здоровье сердечно-сосудистой системы. В работе были проанализированы данные 20 исследований, в которых участвовали пациенты с различными состояниями, начиная от метаболического синдрома и заканчивая сердечно-сосудистыми заболеваниями.

В большинстве исследований было зафиксировано снижение маркеров воспаления, таких как С-реактивный белок и интерлейкин-6, а также улучшение показателей окислительного стресса. Это говорит о том, что комбинация куркумина и пиперина может воздействовать на ключевые механизмы, способствующие развитию хронических заболеваний.

Кроме того, у пациентов с нарушениями обмена веществ было отмечено снижение уровня глюкозы и инсулинорезистентности, а также улучшение липидного профиля — уменьшение триглицеридов и «плохого» холестерина. В некоторых исследованиях у людей, перенёсших инфаркт или операции на сердце, также наблюдалось снижение показателей повреждения тканей.

Авторы исследования подчёркивают, что добавка хорошо переносится и не вызывает серьёзных побочных эффектов. Однако для более точных выводов требуются более масштабные и долгосрочные исследования.

Ранее стало известно, что биоактивные компоненты шафрана оказывают положительное влияние на настроение, воздействуя на мозг.

В исследовании участвовали 884 пациента с ранней стадией рака лёгкого, среди которых было 114 человек старше 80 лет. Выяснилось, что продолжительность жизни пожилых пациентов после операции была сопоставима с более молодыми.

Несмотря на то что в раннем послеоперационном периоде у пожилых пациентов чаще возникали осложнения, большинство из них восстанавливались, а качество жизни улучшалось в течение года. Рак лёгкого чаще диагностируется у пожилых людей, однако именно возраст часто становится причиной отказа от операции.

Авторы исследования подчёркивают, что ключевым фактором должно быть не количество прожитых лет, а общее состояние здоровья пациента и его способность перенести вмешательство. При раннем выявлении заболевания операция может дать шанс на излечение даже в преклонном возрасте.

Подход к лечению должен пересматриваться: пожилые пациенты не должны автоматически исключаться из потенциально эффективной терапии.