Нейросеть

Опасности обучения ИИ на непроверенных данных.

Специалисты Нью-Йоркского университета в США описали потенциальную опасность, связанную с обучением моделей искусственного интеллекта на непроверенных данных.

Исследование было опубликовано в журнале Nature. По словам учёных, большие языковые модели искусственного интеллекта могут ошибаться, если их обучать на фейковой информации или специально загружать антинаучные данные.

Исследователи выяснили, что даже при небольшом уровне дезинформации в обучающих материалах, всего 0,001 процента, нейросети могут выдавать значительное количество неверных ответов. Для проверки влияния дезинформации на процесс обучения учёные использовали модель GPT 3.

5. Они обучили две большие языковые модели на медицинской базе данных The Pile, выбрав 20 тем из трёх медицинских областей: общая медицина, нейрохирургия и лекарства.

Оказалось, что нейросети не только транслируют неверную информацию по прямым запросам, но и начинают ошибаться в смежных темах. Учёные заявили, что это открывает возможности для манипуляций с искусственным интеллектом.

Например, при показателе дезинформации в 0,01 процента большая языковая модель начинает ошибаться в 10 процентах ответов. Если снизить количество фейковых обучающих материалов на порядок — до 0,001 процента, то модель начинает делать ошибки в 7 процентах случаев.

Учёные также отметили, что люди склонны получать информацию от чат-ботов и не проверять её с помощью специалистов. Поэтому они подчеркнули важность подтверждения данных, которые используются для обучения моделей.

В начале января специалисты Bloomberg Intelligence сообщили, что в течение ближайших трёх-пяти лет крупнейшие банки сократят до 200 тысяч сотрудников из-за распространения искусственного интеллекта. Четверть респондентов прогнозируют сокращение пяти-десяти процентов общей численности персонала.

Лента ру

Черника улучшает кровоснабжение мозга
Учёные из Медицинского центра Канзасского университета выяснили, что регулярное употребление черники может положительно влиять на кровоснабжение мозга у пожилых людей.

Результаты исследования опубликованы в журнале The American Journal of Clinical Nutrition (AJCN). В эксперименте участвовали люди в возрасте от 65 до 89 лет, которые обычно ели ягоды не чаще одного раза в неделю.

В течение трёх месяцев одна группа ежедневно получала порошок из черники в количестве, соответствующем одной чашке свежих ягод, а другая — плацебо. Исследование завершили 60 человек.

Употребление черники улучшило кровоток в области мозга, которая участвует в управлении вниманием, принятии решений и других мыслительных процессах. У участников, получавших ягоду, кровоснабжение этой области увеличилось на 7 процентов.

Также учёные обнаружили улучшение кровотока ещё в двух областях мозга — на 7 процентов и 6 процентов. В группе плацебо значимых изменений не наблюдалось.

Исследователи предположили, что положительное действие черники связано с влиянием содержащихся в ней веществ на кровеносные сосуды. При этом уровень глутатиона, одного из основных антиоксидантов мозга, не изменился.

Авторы исследования считают, что черника может быть полезна для поддержания здоровья мозга в пожилом возрасте. Однако исследование не доказало, что её употребление улучшает память или предотвращает развитие деменции.

Лента ру

Иглоукалывание уменьшает боль в коленях
Учёные выяснили, что иглоукалывание определённых точек ушной раковины может облегчить хроническую боль в коленях у пожилых женщин с остеоартрозом.

Результаты исследования опубликованы в журнале Pain Management Nursing (PMN). В эксперименте участвовали 100 женщин старше 60 лет, которые страдают от хронической боли в коленях.

Участниц разделили на две группы: первой проводили иглоукалывание определённых точек ушной раковины, а второй — имитацию процедуры с воздействием на нейтральную точку. Процедуры выполняли один раз в неделю на протяжении десяти недель.

До конца исследования дошли 65 участниц. У женщин, получавших настоящее иглоукалывание, боль в коленях уменьшилась значительно сильнее, чем в контрольной группе.

Кроме того, участницы стали более самостоятельными в повседневных делах, таких как выполнение основных действий по уходу за собой. Также исследователи обнаружили снижение выраженности депрессивных симптомов.

При этом улучшений в способности выполнять более сложные повседневные задачи не выявили. Побочных эффектов во время исследования зарегистрировано не было.

Авторы считают, что иглоукалывание ушной раковины может стать доступным дополнительным методом облегчения боли и улучшения качества жизни пожилых людей с остеоартрозом коленного сустава.

Лента ру

Китай планирует лунную миссию
Ван Сян, заместитель главного конструктора китайской пилотируемой космической программы и главный конструктор программы исследования Луны, сообщил, что первая пилотируемая лунная миссия Китая будет использовать сложную схему сближения и стыковки кораблей на лунной орбите.

Вместо сверхтяжёлой ракеты, которую КНР ещё не построила, миссию решено разделить на две экспедиции. Это новый подход, так как предыдущие миссии, и американские с 1969 года, и советские (не реализованные), основывались на запуске к Луне одной ракеты большой мощности.

Китай сначала отправит с космодрома Вэньчан ракету-носитель под названием «Долгий марш» (Long March-10, или Чанчжэн-10) с посадочным лунным модулем в качестве полезной нагрузки. Затем второй Long March-10 (с небольшим разрывом по времени) стартует в том же направлении уже с пилотируемым космическим кораблём, который должен будет произвести стыковку с посадочным модулем.

Для высадки на Луну предполагается отобрать только двух из трёх членов экипажа. По прибытии на орбиту Луны они перейдут в посадочный модуль, который и совершит посадку на лунную поверхность для проведения научных исследований.

Завершив миссию, тайконавты поднимутся с лунной поверхности на борт посадочного модуля, взлетят на нём, проведут вторую стыковку с пилотируемым космическим кораблём на лунной орбите и вернутся на Землю. В 2027 году запланирован тестовый запуск лёгкой ракеты Long March-10A и нового космического корабля «Мэнчжоу» («Корабль мечты») на низкую околоземную орбиту.

В 2028 году — испытание мощной версии Long March-10 и лунного посадочного модуля «Ланьюэ» («Обнимающий Луну»). В 2029 году к Луне в разное время стартуют две ракеты Long March-10 с посадочным модулем и пилотируемым кораблём для их стыковки на лунной орбите.

Высадка на Луну экипажа из двух человек запланирована до 2030 года. Игорь Лисов, космический эксперт, прокомментировал: «Нет никаких оснований не верить в то, что китайцы будут к 2030-му году на Луне.

Они все части своей космической программы выполняют безупречно и в срок. Но США планируют раньше совершить пилотируемый полёт на Луну...

Я не уверен, что у них это получится. Считаю, что они отнеслись к задаче нового освоения Луны совсем не так, как в 1961-м к программе Apollo».

Московский комсомолец

Изучаются изменения генетики интеллекта у детей
В ходе исследования было обнаружено, что генетические вариации, которые влияют на мышление, обучение и решение проблем, меняются в период с раннего детства до подросткового возраста.

Учёные проследили за тысячами британских детей в возрасте от 4 до 16 лет и выяснили, что связь между распространёнными генетическими вариантами и результатами тестов усиливается с возрастом, особенно у детей с высокими показателями. Отрицательная связь между редкими мутациями, нарушающими работу генов, и IQ наиболее выражена в раннем детстве и ослабевает к подростковому возрасту.

Это может объяснить, почему у некоторых взрослых такие мутации не проявляют заметных нарушений. Распространённые варианты — это частые однобуквенные различия в ДНК, встречающиеся более чем у 1 процента населения.

Исследования близнецов показывают, что доля различий в интеллекте, объясняемая генетикой, растёт с 20 процентов в младенчестве до 60 процентов и более во взрослом возрасте. В исследовании 2018 года с участием 1,1 миллиона взрослых было выявлено более тысячи распространённых вариантов, связанных с обучением.

Это позволило создать полигенный балл, предсказывающий 7–10 процентов вариаций когнитивных тестов. Исследование Дэниела Малавски и Хилари Мартин проанализировало данные трёх британских когорт.

Учёные сосредоточились на 6495 детях европейского происхождения из когорты Avon. Детям проводили тесты Векслера на IQ в 4, 8 и 16 лет.

Результаты показали, что доля вариаций IQ, объясняемых распространёнными вариантами, выросла с 46 процентов в 4 года до 56 процентов в 16 лет, хотя рост не был статистически значимым. Авторы отмечают, что в выборке, вероятно, завышена доля новых мутаций, и картина контрастирует с клиническими когортами, где новые мутации играют большую роль.

Московский комсомолец