Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Развиваются ли роботы в России
Дмитрий Юдин, заведующий лабораторией интеллектуального транспорта Центра когнитивного моделирования МФТИ и ведущий научный сотрудник Института AIRI, рассказал о состоянии физического интеллекта в России и о том, чего не хватает нашим роботам, чтобы догнать зарубежные разработки.

Благодаря искусственным нейросетям современные модели гуманоидов способны заходить в помещение, находить предметы и выполнять задачи без предварительного программирования. Роботы работают на складах, помогают малоподвижным людям и спасателям.

Для каждой сферы создаётся отдельная программа, универсальных роботов, наделённых ИИ, пока не существует. Из-за роста электронной коммерции, дефицита рабочей силы и необходимости повышать скорость логистики активно развиваются роботы с искусственным интеллектом для пунктов выдачи заказов (ПВЗ) и складов.

За рубежом к 2025 году появились системы, которые связывали машинное зрение, языковые команды и движения робота. Google DeepMind продемонстрировала робота, выполняющего многошаговые манипуляции и меняющего действия в зависимости от ситуации.

Американский стартап Figure сообщил, что его система справляется с коробками, мягкими пакетами и конвертами, используя кратковременную зрительную память и обратную связь. У роботов развивается память и ситуационное «мышление», они учатся ориентироваться в непредсказуемой физической среде.

Система SG-RAPL, разработанная в МФТИ, обеспечивает планирование действий человекоподобного робота с помощью обновляемой трёхмерной схемы предметов и связей между ними. Основная сложность в работе автономных роботов на складах — в понимании динамической, всё время меняющейся среды и адекватной интерпретации голосовых команд операторов.

В Китае появился робот для аптеки, но, в отличие от робота, созданного в МФТИ, он ездит на колёсной платформе. По другому функционалу они примерно стоят на одном уровне.

Большинство небольших складов изначально приспособлены для человека, поэтому робот на ногах более уместен. Понимание трёхмерного пространства, в котором отражены окружающие робот объекты, в России идёт почти вровень с ведущими международными компаниями, в том числе из Китая.

Степень роботизации производств в Китае ушла далеко вперёд по сравнению с Россией. В Китае выросло много компаний, которые самостоятельно производят и внедряют роботов на производстве.

На выставках ведущих робототехнических научных конференций заметно засилье разработок из Китая. В России тоже будет появляться всё больше собственных доступных для бизнеса отечественных робототехнических решений.

Робот может общаться с людьми, используя программные модули, которые распознают команды посетителей пункта выдачи заказов. Возможности по ведению естественного диалога с человеком, уточнения неоднозначных вопросов, сейчас активно исследуются.

Риск выхода роботов из-под контроля существует, но сейчас робот снабжён системой распознавания человека: если видит его в зоне выдачи товаров, сразу останавливается. На будущее продумывается модель управления роботом, чтобы он мог взаимодействовать на одной площадке с человеком.

Московский комсомолец

Препарат уменьшает активность опухолей
Учёные из Йельского университета провели исследование, в ходе которого выяснили, что новый экспериментальный препарат способен уменьшать активность опухолей и облегчать боль у пациентов с распространённым раком предстательной железы.

Результаты исследования опубликованы в Journal of Clinical Oncology (JCO). Специалисты изучили действие препарата бавдегалутамид у пациентов с метастатическим кастрационно-резистентным раком простаты — тяжёлой формой заболевания, при которой опухоль продолжает расти даже при снижении уровня тестостерона.

Участники исследования ранее уже проходили лечение. Новый препарат действует иначе, чем традиционная гормональная терапия.

Он использует естественный механизм разрушения белков внутри клеток, чтобы уничтожать андрогенные рецепторы — структуры, через которые тестостерон влияет на рост опухоли. На первом этапе клинического исследования учёные установили, что ежедневная доза 420 миллиграммов обладает приемлемым профилем безопасности у ранее леченных пациентов.

На втором этапе специалисты оценили противоопухолевую активность препарата. Выяснилось, что лечение сопровождалось снижением уровня простатспецифического антигена (ПСА) — показателя, который используют для оценки течения рака простаты.

У некоторых пациентов уменьшились опухолевые очаги в мягких тканях и ослабла боль. Особенно выраженный ответ наблюдался у пациентов с определёнными мутациями андрогенных рецепторов — T878 и H875.

Исследователи считают, что это открывает возможности для более точного подбора лечения с учётом особенностей опухоли.

Лента ру

Витамин А влияет на вес новорождённых
Учёные из Норвежского университета естественных и технических наук выяснили, что недостаток витамина А у беременных женщин связан с повышенной массой тела новорождённых.

Результаты исследования опубликованы в журнале Frontiers in Nutrition. Специалисты изучили данные 723 женщин, у которых беременность протекала без осложнений.

Участницы сдавали анализы крови во втором и третьем триместрах, а после родов исследователи сопоставили уровень витамина А с массой тела младенцев. Оказалось, что к третьему триместру у 43 % женщин уровень витамина А был недостаточным, хотя выраженный дефицит встречался редко.

При этом 17,3 % детей родились с массой тела не менее четырёх килограммов. Анализ показал, что снижение концентрации витамина А в крови матери на 0,2 микромоля на литр было связано с увеличением массы тела ребёнка при рождении на 31–68 граммов.

Такая закономерность наблюдалась при оценке показателей на разных сроках беременности. Учёные отмечают, что высокая масса тела плода может повышать риск осложнений во время родов.

Кроме того, дети, родившиеся крупными, чаще сталкиваются с избыточным весом в дальнейшем. Витамин А содержится в рыбе, яйцах, молочных продуктах, моркови и других овощах.

Однако исследователи предупреждают, что его избыток при беременности также опасен и может привести к нарушениям развития плода. Авторы подчёркивают, что обнаруженная связь не доказывает, что именно недостаток витамина А вызывает увеличение массы тела ребёнка.

Ранее учёные выяснили, что потребление витамина С при беременности благоприятно влияет на развитие мозга ребёнка.

Лента ру

Создала первый советский антибиотик
Зинаида Ермольева родилась в 1897 (по некоторым источникам — в 1898) году на хуторе Фролов Области Войска Донского.

После смерти отца в 1909 году семья осталась на попечении матери. Мать отвезла двух старших дочерей учиться в гимназию в Новочеркасск.

В 1915 году Зинаида закончила Мариинскую женскую гимназию с золотой медалью, получила статус домашней учительницы. Но этот путь не устраивал девушку, она мечтала заняться медициной.

В 1916-м в Ростове открывается женский медицинский институт. И Ермольева стала одной из первых студенток.

Её интересовала микробиология, и эта страсть была настолько сильной, что студентке не хватало отведённого на опыты времени. «Будучи студенткой, я чуть свет лазила через форточку в лабораторию.

Все кругом было закрыто, а мне хотелось лишний часок-другой посвятить опытам», — рассказывала она позднее. Выпуск состоялся в 1921 году, после чего Ермольева осталась ассистентом кафедры микробиологии под руководством профессора Владимира Барыкина.

В 1922 году Зинаида Ермольева провела опыт самозаражения, чтобы доказать патогенность холероподобных вибрионов, обнаруженных ею в водопроводной воде Ростова-на-Дону. Она нейтрализовала желудочный сок раствором соды и выпила взвесь микроорганизмов.

Через 18 часов началось расстройство кишечника, через 30 — присоединились другие симптомы. Заболевание протекало тяжело и едва не привело к смерти, но исследовательница выжила и описала клиническую картину.

Этот эксперимент лёг в основу санитарных норм хлорирования воды, которые применяются до сих пор. В 1942 году Зинаида Ермольева была направлена в осаждённый Сталинград главным специалистом по холере.

Угроза была реальной: в немецких войсках, окруживших город, холера уже вспыхнула, и существовал риск её распространения среди советских войск и населения. Ермольева организовала производство холерного бактериофага прямо в городе — в подземной лаборатории.

Препарат ежедневно получали около 50 тысяч человек. В 1942 году под руководством Зинаиды Ермольевой из штамма плесневого гриба Penicillium crustosum был получен первый советский антибиотик — Крустозин.

Название препарата происходит от видового имени грибка. Работа началась с поручения: получить пенициллин собственными силами, поскольку англо-американские поставки были скудными, а технология производства засекречена.

В начале 1944 года Москву посетил Говард Флори. Состоялись сравнительные испытания Крустозина и британского пенициллина.

Результат: советский препарат не уступал западному, а по некоторым показателям оказался эффективнее — как ни парадоксально, из-за меньшей степени очистки. Флори, по распространённой версии, и назвал Ермольеву «госпожа Пенициллин».

Зинаида Ермольева — доктор наук с 1935 года, профессор с 1939-го, академик АМН СССР с 1965 года. Она возглавляла Всесоюзный научно-исследовательский институт пенициллина, основала и редактировала журнал «Антибиотики».

Московский комсомолец