L’IA incarnée recueille des données du monde réel à l’aide de capteurs, comme des caméras, des systèmes de détection et de télémétrie par la lumière (LiDAR) et des radars, afin de permettre aux modèles d’IA déployés dans des systèmes autonomes et des robots de comprendre l’espace physique et ainsi fonctionner dans des conditions réelles.

La fusion de capteurs est le processus qui consiste à combiner des données provenant de plusieurs capteurs afin d’améliorer la précision et la fiabilité de l’information. En combinant des données issues de différents types de capteurs (comme le LiDAR, le radar et les caméras), un système peut créer une représentation plus complète de l’environnement. La fusion de capteurs peut aussi réduire l’impact des erreurs ou des défaillances d’un capteur pris individuellement. Cette technologie est utilisée dans diverses applications, notamment les véhicules autonomes (VA) et la robotique.

L'une des utilisations les plus courantes de la fusion de capteurs consiste à créer un nuage de points 3D, un modèle détaillé d'un espace physique qui comprend des renseignements sur l'emplacement et l'orientation des objets qui s'y trouvent.

Les capteurs sont des appareils qui détectent et réagissent à des stimuli physiques, tels que la lumière, la chaleur et le son. Différents capteurs utilisent des technologies différentes pour accomplir leurs fonctions. Par exemple, les capteurs LiDAR et radar utilisent des lasers et des ondes radio pour percevoir leur environnement, tandis que les capteurs ultrasoniques utilisent des ondes sonores.

LiDAR (Light Detection and Ranging)

High accuracy, long-range, and fast data acquisition. LiDAR is ideal for mapping and obstacle avoidance in AV and robots.

RADAR (Radio Detection and Ranging)

Radar sensors can detect objects through various weather conditions and at long distances, making them ideal for applications such as collision avoidance and autonomous driving.

SONAR (Sound Navigation and Ranging)

Sonar sensors emit sound waves and measure the time it takes for the waves to bounce back after hitting an object. In robotics and automotive they can be used to determine the distance to the object.

Structured light

Structured light sensors use a 3D scanner to measure the 3D dimensions of an object. High resolution and accuracy make them suitable for 3D scanning and mapping applications.

Time-of-Flight (ToF) sensor

ToF sensors are used for measuring distance with depth sensing technology. They are fast and reliable, so they are a good choice for gesture recognition, object tracking, and robot navigation applications.

Stereo vision sensor

Stereo vision sensors use two (or more) sensors to simulate human binocular vision. High precision depth sensing, good spatial resolution, and low cost make these suitable for obstacle avoidance, 3D mapping, and robot navigation applications.

Ultrasonic sensor

Ultrasonic sensors are low-cost, easy to use, and can detect a wide range of materials, making them suitable for applications such as parking assistance and object detection.

Step 1: Overlay the data

• The first step is to calibrate and align all the sensor views, then overlay all of your data into a single view. This fused view gives your labeler more context, allowing it to tell what groups of point clouds represent.

Step 2: Label the 3D point clouds

• We advise that you label in 3D before projecting to 2D for a few reasons, even though it may seem counterintuitive. Labeling in 3D first often proves to be significantly more efficient, even if your primary interest is in obtaining 2D labels.
• Imagine you are driving past a stationary object like a traffic sign. Equipped with multiple cameras, this traffic sign remains visible in three of them as you pass by, spanning approximately 100 frames.
• Annotating this scenario using 2D bounding boxes would require you to label a total of 300 instances. However, in the 3D space, annotating this static, non-moving traffic sign would involve a single cuboid annotation.
• While labeling a 3D cuboid does take three times as long as annotating a 2D bounding box, it is still 100 times more efficient than labeling directly in the images.

Step 3: Project to 2D images

• Once you’ve labeled your 3D point clouds, you can calibrate and align them to your 2D image data. Segments.ai will automatically copy over object IDs to the 2D data, saving you hours of drawing bounding boxes. You only need to make minor adjustments during your quality control check.

La transition d’une approche de fusion tardive à une approche de fusion précoce devient de plus en plus répandue parmi les entreprises de véhicules autonomes et de robotique dans leurs modèles d’apprentissage automatique (AA).

La fusion tardive consiste à utiliser des modèles d’apprentissage automatique distincts pour chaque capteur utilisé, ce qui génère des sorties individuelles. Ces sorties sont ensuite fusionnées pour créer une représentation 3D cohérente de la scène. Cela revient à exécuter plusieurs modèles de manière indépendante, puis à combiner leurs résultats par la suite.

La fusion précoce adopte une approche plus moderne. Plutôt que d'utiliser des modèles distincts pour chaque capteur, toutes les données des capteurs sont regroupées dans un seul modèle d'apprentissage automatique. Ce modèle unifié est conçu pour effectuer directement des prédictions dans l'espace 3D.

Pour que la fusion précoce soit efficace, les grilles de voxels s’avèrent être une représentation avantageuse de la scène. Les grilles de voxels présentent une structure régulière, ce qui les rend bien adaptées à cette approche. On peut les modéliser sous forme de tenseurs, ce qui permet une prédiction de bout en bout. L’ensemble du processus, de l’entrée à la sortie, peut être prédit à l’aide d’un seul modèle.