Опасности обучения ИИ на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

В эксперименте участвовали 64 студента в возрасте от 18 до 23 лет, которые были здоровы. После того как они воздерживались от питья в течение 12 часов, их разделили на четыре группы.

Одни участники выпили 500 миллилитров воды, другие — 200 миллилитров, третьи — 100 миллилитров, а участники из контрольной группы не пили воду вовсе. Затем учёные измерили уровень гидратации, провели МРТ мозга и когнитивные тесты.

После приёма воды у участников улучшились показатели гидратации, особенно в группе, выпившей 500 миллилитров. МРТ показала изменения активности в областях мозга, которые отвечают за внимание, память, принятие решений и обработку информации.

Однако значимых различий между группами по результатам когнитивных тестов учёные не обнаружили. Тем не менее внутри групп, которые пили воду, улучшились отдельные показатели: скорость обработки символов, внимание и результаты заданий на устный счёт.

Авторы работы подчёркивают, что выводы пока предварительные, но исследование демонстрирует, что даже кратковременный недостаток воды и последующее восполнение жидкости могут быть связаны с изменениями в работе мозга. Ранее учёные установили, что даже незначительное загрязнение воздуха ухудшает работу мозга.

Эффективность линз сравнима с антидепрессантом «Прозак». Линзы оснащены сверхтонкими электродами, передающими слабые сигналы через сетчатку глаза к областям мозга, связанным с настроением.

Исследователи объясняют, что глаз анатомически соединён с мозгом, и поэтому решили использовать его в качестве «входа» для мягкой стимуляции нервных цепей. В эксперименте мышей с признаками депрессии разделили на три группы: одна группа не получала лечение, вторая проходила терапию с помощью линз, а третья принимала флуоксетин — действующее вещество препарата «Прозак».

После трёх недель у животных, носивших линзы по 30 минут в день, улучшилось поведение, восстановилась связь между отделами мозга, а уровень серотонина вырос почти на 47 процентов. Кроме того, авторы зафиксировали снижение воспалительных маркеров в мозге и почти двукратное уменьшение уровня гормона стресса кортикостерона.

Хотя технология пока тестировалась только на животных, исследователи считают, что в будущем такие линзы могут стать новым способом лечения депрессии, тревожных расстройств и других нарушений работы мозга без лекарств и операций.

Учёные изучили данные более 630 тысяч мужчин и женщин из Швеции. Они отслеживали изменения массы тела участников исследования с 17 до 60 лет и сопоставляли их с развитием онкологических заболеваний.

Оказалось, что у людей с наиболее выраженным набором веса риск так называемых «ожирение-ассоциированных» видов рака был на 43–46 процентов выше по сравнению с теми, кто набирал меньше всего. Наиболее сильная связь наблюдалась для отдельных видов опухолей.

Например, у мужчин с самым высоким набором веса риск рака печени оказался выше в 2,7 раза, а риск рака пищевода — более чем в 2 раза. У женщин вероятность развития рака эндометрия увеличивалась почти в 4 раза.

Кроме того, повышались риски рака почек, кишечника, поджелудочной железы и некоторых опухолей мозга. Особенно опасным оказалось раннее развитие ожирения.

Мужчины, столкнувшиеся с ожирением до 30 лет, имели пятикратный риск рака печени. У женщин раннее ожирение было связано с повышением риска рака эндометрия в 4,5 раза.

Авторы исследования отмечают, что лишний вес может влиять на развитие опухолей через хроническое воспаление, гормональные изменения и нарушения обмена веществ.

Это выяснили учёные, опубликовавшие свою работу в журнале Food & Function (F&F). В исследовании применялся чай Ligustrum robustum — один из видов традиционного китайского напитка кудин.

Гиперурикемия — это состояние, при котором в крови повышен уровень мочевой кислоты. Оно считается одним из основных факторов риска развития подагры и хронических заболеваний почек.

В ходе эксперимента учёные изучали влияние чая на мышей, у которых искусственно вызвали гиперурикемию. Оказалось, что напиток значительно снижает уровень мочевой кислоты и одновременно улучшает работу почек без признаков токсичности.

Анализ показал, что чай воздействует на несколько механизмов обмена мочевой кислоты. Он подавляет активность белков и ферментов, связанных с её накоплением, включая XOD, URAT1 и GLUT9, а также усиливает работу транспортных систем, которые выводят это вещество из организма.

Кроме того, исследователи зафиксировали снижение воспаления в тканях почек за счёт подавления сигнального пути TNF/NF-κB. Авторы работы обнаружили около 20 биологически активных соединений, которые могут обеспечивать эффект напитка.

Особенно выраженную активность показали вещества ligupurpuroside A и verbascoside. Они способны подавлять фермент, участвующий в образовании мочевой кислоты.

По мнению исследователей, чай кудин может стать перспективным функциональным напитком для профилактики и контроля гиперурикемии. Ранее стало известно, что употребление улуна и зелёного чая снижает риск развития депрессии.