Главная | Проекты | Методика конкурса для школьников по экологическому мониторингу Земли из космоса с помощью цифровых технологий

Методика конкурса для школьников по экологическому мониторингу Земли из космоса с помощью цифровых технологий

Организационно-техническое и методическое сопровождение проекта для старших школьников «Изображения Земли из космоса» в рамках конкурса «Космическая автоматическая идентификация объектов и искусственный интеллект» программы «Дежурный по планете».

Задача

Во всем мире исследования Земли из космоса приобретают всеобъемлющий характер. Использование космической техники помогает решать ряд актуальных проблем системы «Земля» (атмосфера — океан — поверхность — биосфера), в том числе оценивать и прогнозировать изменения состояния окружающей среды под воздействием природных и антропогенных факторов.

Например, анализ снимков поверхности Земли, сделанных космическими спутниками, помогает решать множество задач в промышленности, сельском и лесном хозяйстве, на транспорте, в метеорологии и других отраслях. Параллельно развиваются и технологии обработки и анализа этих данных, в том числе и программные инструменты с открытым исходным кодом. С помощью космических аппаратов можно также наблюдать за движением судов по акватории морей и океанов, автомобилей и поездов, самолетов, беспилотных морских судов и катамаранов, оснащенных системами искусственного интеллекта.

Актуальность технологий получения и обработки информации с космических спутников настолько высока, что они были включены в список тематических направлений в программе технологических проектных конкурсов для старшеклассников «Дежурный по планете». Эти технологии участники изучают в рамках проекта «Изображения земли из космоса» программы «Дежурный по планете».

Перед сотрудниками СПбПУ как вуза-партнера программы стояла задача разработать методику обучения старших школьников технологиям экологического мониторинга земной поверхности.

На первом этапе ребята под руководством наставников должны решить ряд задач по сегментации и классификации на космических снимках объектов акватории (реки и водоемы) с использованием технологии глубоких свёрточных нейронных сетей. Затем они смогут сравнить снимки разных лет, чтобы увидеть, как меняются русла рек, образуются новые острова, пересыхают озёра и наполняются водохранилища.

На втором этапе – принять участие в экспериментах с симуляторами и реальными системами управления на беспилотных судах-катамаранах с возможностью управления, а также с системами автоматической идентификации судов (АИС) на базе малых космических аппаратов, и с помощью АИС проследить путь беспилотного катамарана по акватории моря.

На третьем этапе участникам предстоит обучить нейронную сеть для задачи обнаружения морских судов, а также выполнить исследовательскую работу с использованием модуля сегментации космических снимков.

Решение

Разработано методическое сопровождение проекта «Изображения Земли из космоса» для старших школьников в рамках конкурса «Космическая автоматическая идентификация объектов и искусственный интеллект» программы «Дежурный по планете», вся организационно-техническая работа проводилась также проектной группой Центра НТИ СПбПУ.

Школьники должны не только провести экологический мониторинг водных объектов, но и попробовать себя в роли разработчиков систем ИИ. Участники проектных групп смогут самостоятельно обучить нейронную сеть распознавать водоемы на фотографиях, а точнее - поработать вместе с программистами Политеха над разметкой изображений и созданием обучающей выборки. Для этого эксперты Политеха создали инструкцию по обучению нейросети на материале спутниковых снимков и проработали учебно-методические материалы. Для создания обучающей выборки используются изображения с космического аппарата Аист-2Д, предоставленные АО «РКЦ «Прогресс».

Также школьники смогут наблюдать за движением судов в акватории морей и океанов с помощью приемной станции сигналов Автоматической идентификационной системы, которая в режиме реального времени предоставляет информацию о судах в акватории Финского залива в районе Санкт-Петербурга. Приемная станция располагается на территории Санкт-Петербургского политехнического института Петра Великого.

Для демонстрации исходных и обработанных спутниковых снимков в декабре 2022 года было создано VR-приложение, и проект стал выглядеть по-настоящему захватывающе!

Детали

Методика обучения нейросети

Основываясь на размеченных изображениях, обучаемая нейросеть решает широкий спектр задач.

Обучающая выборка состоит из снимков с ультравысоким – в десятки тысяч пикселей – разрешением (например, размер в пикселях одного из изображений – 36 766 на 41 282). Изображения такого типа используются, чтобы добиться от нейросети максимальной точности при распознавании объектов на фото.

Для выборки отбираются фото регионов с различным типом рельефа местности, при отборе учитывается соотношение и конфигурация техногенных и природных пространств на фотографируемой поверхности.

Для непосредственной подготовки фотографий для размещения в выборке специалисты СПбПУ разработали оригинальную методику ручной разметки.

Все снимки, подлежащие разметке, просматриваются и обрабатываются в цветовом режиме «градации серого» – это позволяет воспринимать кадры быстрее и проще, снижая при этом вес изображения. Разметка производится ручным методом в растровом редакторе Adobe Photoshop с использованием графического планшета. Создается отдельный слой, соответствующий классу объекта, далее производится обводка объекта стилусом и заливка нужного участка. Согласно методике, при обводке объекта границы должны включать в себя пиксели, которые не менее, чем на 50% относятся к объекту выделения.

Методика создается на материале трех классов объектов, таких как водоёмы, реки и корабли. Они обладают достаточно специфичными свойствами, которые позволяют их идентифицировать – хорошо отличимы по цвету, имеют чёткие границы и характерную форму.

Далее слои выгружаются отдельными изображениями соответственно классу таким образом, чтобы объекты были выделены белым цветом на чёрном фоне, и в таком виде передаются для обучения нейронной сети.

Пример разметки класса «Лес»:

 

Автоматические идентификационные системы (АИС)

Для решения задачи наблюдения за движением судов по акватории морей и океанов используется комплекс программных и аппаратных решений, в том числе Автоматическая идентификационная система (АИС). Принимая сигналы кораблей, использующих данные глобальных навигационных спутниковых систем, АИС позволяет судам по всему миру безопасно маневрировать даже в самых загруженных акваториях путём обмена данными о своих характеристиках и положении.

Так, проектные команды конкурса «Космическая автоматическая идентификация объектов и искусственный интеллект» смогут также принять участие в экспериментах с симуляторами и реальными системами управления на беспилотных судах-катамаранах с возможностью управления, а также с системами автоматической идентификации судов (АИС) на базе малых космических аппаратов: с помощью АИС можно будет проследить путь беспилотного катамарана по акватории моря.

VR-сопровождение

VR-приложение к проекту представляет собой цифровое помещение в стиле sci-fi, в котором демонстрируются исходные и обработанные спутниковые снимки.

Разработка позволит молодым людям, которые заинтересованы в участии в высокотехнологичных проектах, самостоятельно протестировать приложение и при желании доработать его при поддержке кураторов Лаборатории «Промышленные системы потоковой обработки данных» Центра НТИ СПбПУ. Таким образом, в стек технологий проекта «Изображения Земли из космоса» добавились еще и технологии 3D-моделирования и построения систем виртуальной реальности.

Использование VR-приложения вызывает массу положительных эмоций и, конечно, повышает интерес к проекту. Надевая VR-шлем, пользователь абстрагируется от внешнего мира, и все его внимание фокусируется на изучении материала.

Если у пользователей нет VR-комплекта, они могут использовать ПК-версию приложения с низкими системными требованиями и упрощенной системой ввода команд.

Создание пространства и других элементов окружения производилось в программе для создания трёхмерной компьютерной графики Blender. остальные элементы (освещение, аудиосопровождение, система взаимодействий) реализуются в среде разработки Unity с использованием языка программирования C#.

Технологии

Языки программирования  С++, Python, С
OS Windows 10+, Linux, Mac OS
Библиотеки и фреймворки OpenCV, PyTorch, ONNX Runtime, Qt
Среда разработки 3D Blender, Substance 3D Painter, Marmoset Toolbag
Среда разработки ПО Unity, Visual Studio, JetBrains Rider, SteamVR
Архитектуры x64
CVS Git (GitLab)
IDE vscode

РИД

Публикации

    Работы по проекту «Изображения Земли из космоса» ведутся в рамках программы «Дежурный по планете» при финансовом сопровождении Фонда содействия инновациям.

    Ключевые исполнители

    • Технический руководитель проекта: А.В. Лексашов
    • Научный руководитель проекта: М.В. Болсуновская

    Исполнитель

    • ООО «Тетракуб»

    Партнеры

    • ГК «Роскосмос»
    • АО «РКЦ «Прогресс»
    • Лаборатория «Промышленные системы потоковой обработки данных» Центра НТИ СПбПУ