Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Экстракты артишока подавляют рост клеток рака
Итальянские учёные выяснили, что экстракты из отходов артишока могут вызывать гибель клеток колоректального рака.

Результаты исследования опубликованы в журнале Nutrients. Исследователи изучили водные экстракты, полученные из прицветников артишока — частей растения, которые обычно остаются после переработки.

В них обнаружили полифенолы, включая производные кофейной кислоты, лютеолина и апигенина. Эти соединения известны своими антиоксидантными и противовоспалительными свойствами.

В эксперименте экстракты протестировали на двух линиях клеток колоректального рака — Caco-2 и HT29. При концентрациях от 2 мг/мл они значительно снижали жизнеспособность опухолевых клеток, а при 4 мг/мл через 48 часов почти полностью подавляли их рост.

Особенно заметный эффект показал экстракт местного апулийского сорта BriB: он вызывал апоптоз более чем у 80 процентов клеток. Дополнительный анализ показал, что экстракты активировали внутренний путь программируемой гибели клеток.

В опухолевых клетках повышался уровень белков Bax, каспазы-9 и каспазы-3, а соотношение защитного белка Bcl-2 к Bax снижалось. По словам авторов, это указывает на запуск митохондриального механизма апоптоза.

Учёные подчёркивают, что речь идёт только о лабораторных экспериментах на клеточных линиях, а не о доказанном лечении рака у людей. Однако результаты показывают, что отходы переработки артишока могут стать недорогим и экологичным источником биоактивных веществ для будущих нутрицевтиков или вспомогательных противоопухолевых разработок.

Лента ру

Уролитин А укрепляет кишечник
Учёные из Университета Луисвилла выяснили, что определённые вещества, которые образуются после переваривания гранатов, грецких орехов и ягод кишечными бактериями, могут укреплять защитный барьер кишечника и уменьшать повреждение тканей.

Результаты исследования опубликованы в журнале Nature Communications. В ходе экспериментов на клетках, органоидах и образцах тканей пациентов с воспалительными заболеваниями кишечника исследователи изучили действие уролитина А — соединения, которое вырабатывается кишечными бактериями после переработки полифенолов, содержащихся в гранатах, грецких орехах и ягодах.

Оказалось, что уролитин А активирует защитный механизм в клетках слизистой оболочки кишечника. Он запускает работу белка AHR, который, в свою очередь, активирует систему NLRP6.

В результате усиливается восстановление повреждённой слизистой, увеличивается выработка защитной слизи, укрепляется кишечный барьер и повышается способность организма бороться с вредными микроорганизмами. Этот механизм не усиливает повреждение тканей, а способствует их заживлению.

Авторы исследования подчёркивают, что эффект зависит не только от употребления продуктов, богатых полифенолами, но и от состава кишечной микробиоты, поскольку именно бактерии превращают растительные соединения в уролитин А. Учёные считают, что открытие может помочь в разработке более точных методов лечения болезни Крона, язвенного колита и других заболеваний кишечника.

Лента ру

RFA разрабатывает новую ракету
European Spaceflight сообщает, что немецкая компания RFA, расположенная в Германии, разработала стратегию создания тяжёлой многоразовой ракеты RFA TWO.

Планируется, что этот носитель высотой 100 метров сможет доставлять на низкую околоземную орбиту до 15 тонн груза. Точные сроки запуска RFA TWO пока не определены.

Сначала необходимо успешно ввести в эксплуатацию ракету RFA ONE. Её базовая версия Block 1 сможет выводить на орбиту до 500 кг полезной нагрузки, а модификация Block 2 с увеличенной грузоподъемностью и возможностью повторного использования первой ступени — уже 1500 кг.

Работы над RFA ONE Block 2 планируется завершить к 2028 году. Ранее сообщалось, что компания RFA планирует осуществить первый запуск своей ракеты RFA ONE с территории Великобритании уже в 2026 году.

Московский комсомолец

Изучи данные астрофизиков о магнитной буре
Астрофизики из Лаборатории солнечной астрономии ИКИ и ИЗСФ РАН опубликовали информацию о том, что магнитная буря длилась менее нескольких часов.

Уровень геомагнитных возмущений начал расти после полуночи и достиг показателей, характерных для слабой магнитной бури. Магнитные бури бывают разных уровней интенсивности: от слабых до экстремально сильных.

Некоторые учёные считают, что слабые и средние магнитные бури практически не ощущаются людьми. Однако другие эксперты советуют следить за питанием и избегать чрезмерных физических нагрузок.

Московский комсомолец