Опасности обучения ИИ на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Обсуждение версии о лабораторном происхождении вируса началось после вспышки инфекции на нидерландском круизном лайнере MV Hondius, который следовал из Аргентины в Кабо-Верде. Всемирная организация здравоохранения сообщила о 11 случаях заражения хантавирусом, в девяти из них подтвердился вариант Андес.

Трое человек не выжили. По словам специалиста, чтобы сделать выводы о возможном искусственном происхождении вируса, нужно сначала секвенировать его геном, сравнить с уже известными штаммами и оценить характер мутаций.

Таких данных пока нет, поэтому говорить о лабораторном происхождении преждевременно. Хантавирусы обычно попадают к человеку через контакт с грызунами или продуктами их жизнедеятельности.

Они могут вызывать тяжёлые заболевания, такие как геморрагическая лихорадка с почечным синдромом и хантавирусный лёгочный синдром. Вирус Андес — один из наиболее редких, но при этом опасных вариантов, так как способен передаваться от человека к человеку при тесном контакте.

Ранее Онищенко заявил, что разработка вакцины от хантавируса займёт долгие годы.

Учёные наблюдали почти за 700 детьми из Испании в течение примерно 3,4 года. Родители подробно сообщали о рационе детей, а исследователи анализировали долю ультрапереработанных продуктов — сладких хлопьев, газировки, упакованных снеков, фастфуда и других продуктов промышленной переработки.

Результаты показали, что существует чёткая связь между потреблением такой еды и риском развития астмы в младшем школьном возрасте. У детей с самым высоким потреблением ультрапереработанных продуктов вероятность заболевания была почти в четыре раза выше по сравнению с детьми, которые ели их реже.

При этом связи между такой пищей и другими аллергическими заболеваниями учёные не обнаружили. Авторы предполагают, что ультрапереработанные продукты могут провоцировать воспалительные процессы, которые напрямую влияют на дыхательные пути и лёгкие.

Исследователи считают, что ограничение подобной еды в детском рационе может стать одной из мер профилактики астмы. Ранее учёные выяснили, что снижение потребления сахара в детстве снижает риски развития астмы и ХОБЛ.

В эксперименте участвовали 64 студента в возрасте от 18 до 23 лет, которые были здоровы. После того как они воздерживались от питья в течение 12 часов, их разделили на четыре группы.

Одни участники выпили 500 миллилитров воды, другие — 200 миллилитров, третьи — 100 миллилитров, а участники из контрольной группы не пили воду вовсе. Затем учёные измерили уровень гидратации, провели МРТ мозга и когнитивные тесты.

После приёма воды у участников улучшились показатели гидратации, особенно в группе, выпившей 500 миллилитров. МРТ показала изменения активности в областях мозга, которые отвечают за внимание, память, принятие решений и обработку информации.

Однако значимых различий между группами по результатам когнитивных тестов учёные не обнаружили. Тем не менее внутри групп, которые пили воду, улучшились отдельные показатели: скорость обработки символов, внимание и результаты заданий на устный счёт.

Авторы работы подчёркивают, что выводы пока предварительные, но исследование демонстрирует, что даже кратковременный недостаток воды и последующее восполнение жидкости могут быть связаны с изменениями в работе мозга. Ранее учёные установили, что даже незначительное загрязнение воздуха ухудшает работу мозга.

Эффективность линз сравнима с антидепрессантом «Прозак». Линзы оснащены сверхтонкими электродами, передающими слабые сигналы через сетчатку глаза к областям мозга, связанным с настроением.

Исследователи объясняют, что глаз анатомически соединён с мозгом, и поэтому решили использовать его в качестве «входа» для мягкой стимуляции нервных цепей. В эксперименте мышей с признаками депрессии разделили на три группы: одна группа не получала лечение, вторая проходила терапию с помощью линз, а третья принимала флуоксетин — действующее вещество препарата «Прозак».

После трёх недель у животных, носивших линзы по 30 минут в день, улучшилось поведение, восстановилась связь между отделами мозга, а уровень серотонина вырос почти на 47 процентов. Кроме того, авторы зафиксировали снижение воспалительных маркеров в мозге и почти двукратное уменьшение уровня гормона стресса кортикостерона.

Хотя технология пока тестировалась только на животных, исследователи считают, что в будущем такие линзы могут стать новым способом лечения депрессии, тревожных расстройств и других нарушений работы мозга без лекарств и операций.