Опасности обучения ИИ на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Исследование, опубликованное в PNAS, демонстрирует, что в Южном Китае и Юго-Восточной Азии тела умерших подвергали копчению над тлеющим огнём ещё 12 тысяч лет назад. Анализ 54 погребений выявил характерные следы воздействия дыма и низких температур.

Кости сохранили признаки длительного нагрева, а сами захоронения отличались необычными позами — с сильным сгибанием или даже связкой конечностей. Исследователи считают, что в условиях влажного климата именно копчение позволяло замедлить разложение.

Схожие практики сохранялись вплоть до недавнего времени у народов Новой Гвинеи и Австралии, что указывает на глубокие культурные корни обряда. Авторы подчёркивают: мумификация в Азии возникла раньше египетской традиции и имела не только практический, но и символический смысл — поддержание связи между живыми и предками.

Ранее на западе Китая археологи обнаружили сотни так называемых таримских мумий с необычной внешностью.

На конгрессе Европейского общества катарактальных и рефракционных хирургов (ESCRS) были представлены результаты анализа более 65 тысяч операций. Учёные из Израиля выяснили, что после процедуры фоторефракционной кератэктомии (PRK) 64% глаз подростков достигли 100% зрения, в то время как среди взрослых этот показатель составил 59%.

При этом серьёзные осложнения были крайне редкими, а повторное вмешательство потребовалось менее чем в 0,5% случаев. Специалисты подчёркивают, что при стабильной близорукости подростки могут быть кандидатами на PRK, особенно если очки или контактные линзы вызывают неудобства.

Исследователи продолжают наблюдение за пациентами для оценки долгосрочных эффектов лечения. Ранее специалисты представили разработку глазных капель, которые могут временно заменить очки для чтения у людей старше 50 лет.

В исследовании участвовали 411 человек с ожирением и избыточным весом, которые принимали препараты не менее трёх месяцев. Примерно каждый пятый участник отметил, что еда стала казаться слаще или солонее, чем раньше.

Учёные объясняют это тем, что препараты действуют не только на кишечник и зоны мозга, отвечающие за голод, но и на вкусовые рецепторы. Это делает вкусы более яркими, а еда — менее привлекательной в больших количествах.

У таких пациентов чаще снижался аппетит, а чувство насыщения наступало быстрее. Кроме того, у многих уменьшилась тяга к еде, что может дополнительно способствовать контролю веса.

Исследователи подчёркивают, что изменения вкуса сами по себе не ведут напрямую к снижению веса. Результат зависит от уровня метаболизма, образа жизни и длительности терапии.

Однако наблюдение за вкусовыми сдвигами может помочь врачам лучше оценивать эффективность лечения и подбирать персональные рекомендации по питанию. Ранее стало известно, что препараты из класса агонистов GLP-1 (Ozempic, Wegovy, Mounjaro и другие), применяемые при диабете и ожирении, могут снижать риск рецидива и повышать выживаемость у пациентов с раком лёгких.

Результаты исследования опубликованы в журнале Nutrients. В эксперименте участвовали 61 ребёнок из Денвера в возрасте от пяти до двенадцати месяцев.

Родители в течение нескольких месяцев добавляли в рацион малышей либо порошок из лиофилизированной черники, либо плацебо. Учёные регулярно собирали образцы крови и кала, чтобы отслеживать изменения в микробиоте кишечника и показателях иммунной системы.

У детей, которые получали чернику, улучшились симптомы аллергии, снизилось воспаление и произошли положительные изменения в составе кишечных бактерий, связанных с иммунным здоровьем. Авторы исследования подчёркивают, что речь идёт о минимальных количествах — всего несколько ягод в день.

Для самых маленьких младенцев чернику рекомендуют давать в виде пюре, а для более старших — в виде размятой массы или мелких кусочков, чтобы исключить риск удушья. Руководитель исследования отметил, что именно в первые месяцы жизни формируются привычки и процессы, которые могут оказывать долгосрочное влияние на здоровье ребёнка.

Учёные планируют продолжить работу и изучить, какие ещё продукты могут оказывать подобный эффект. Ранее учёные уже показывали, что ежедневное употребление черники в раннем возрасте может снижать проявления аллергии и положительно влиять на работу иммунной системы.