फिजिकल एआय सेन्सर्स वापरून प्रत्यक्ष जगातील डेटा गोळा करते, जसे की कॅमेरा, लाइट डिटेक्शन अँड रेंजिंग (LiDAR) आणि रडार, जेणेकरून स्वयंचलित प्रणाली आणि रोबोट्ससाठी तैनात केलेले एआय मॉडेल्सना भौतिक जागा समजून घेता येईल आणि ते प्रत्यक्ष जगातील परिस्थितींमध्ये कार्य करू शकतील.

सेन्सर फ्यूजन ही अनेक सेन्सरमधील डेटा एकत्र करून माहितीची अचूकता आणि विश्वासार्हता वाढवण्याची प्रक्रिया आहे. वेगवेगळ्या प्रकारच्या सेन्सरमधून (जसे की LiDAR, रडार आणि कॅमेरे) मिळणारी माहिती एकत्र करून, एखादी प्रणाली पर्यावरणाचे अधिक संपूर्ण चित्र तयार करू शकते. सेन्सर फ्यूजनमुळे कोणत्याही एकाच सेन्सरमधील त्रुटी किंवा अपयशाचा परिणामही कमी करता येतो. ही तंत्रज्ञान विविध क्षेत्रांमध्ये वापरली जाते, ज्यामध्ये स्वयंचलित वाहने (AV) आणि रोबोटिक्स यांचा समावेश आहे.

सेन्सर फ्युजनचा सर्वात सामान्य वापर म्हणजे रोबोटॅक्सीवर बसवलेल्या विविध सेन्सरचे एकत्रीकरण, ज्यामध्ये LiDAR कडून मिळणारे 3D पॉइंट क्लाउड्स आणि समोर, बाजू व मागील कॅमेर्‍यांमधून मिळणाऱ्या 2D प्रतिमा यांचा समावेश होतो.

सेन्सर्स ही अशी उपकरणे आहेत जी प्रकाश, उष्णता आणि आवाज यांसारख्या भौतिक उत्तेजनांना ओळखतात आणि त्यावर प्रतिसाद देतात. वेगवेगळ्या सेन्सर्सना त्यांच्या कार्यांसाठी वेगवेगळ्या तंत्रज्ञानाचा वापर केला जातो. उदाहरणार्थ, LiDAR आणि रडार सेन्सर्स त्यांच्या आजूबाजूच्या वातावरणाचा अंदाज घेण्यासाठी लेझर आणि रेडिओ लहरींचा वापर करतात, तर अल्ट्रासोनिक सेन्सर्स ध्वनीलहरींचा वापर करतात.

LiDAR (Light Detection and Ranging)

High accuracy, long-range, and fast data acquisition. LiDAR is ideal for mapping and obstacle avoidance in AV and robots.

RADAR (Radio Detection and Ranging)

Radar sensors can detect objects through various weather conditions and at long distances, making them ideal for applications such as collision avoidance and autonomous driving.

SONAR (Sound Navigation and Ranging)

Sonar sensors emit sound waves and measure the time it takes for the waves to bounce back after hitting an object. In robotics and automotive they can be used to determine the distance to the object.

Structured light

Structured light sensors use a 3D scanner to measure the 3D dimensions of an object. High resolution and accuracy make them suitable for 3D scanning and mapping applications.

Time-of-Flight (ToF) sensor

ToF sensors are used for measuring distance with depth sensing technology. They are fast and reliable, so they are a good choice for gesture recognition, object tracking, and robot navigation applications.

Stereo vision sensor

Stereo vision sensors use two (or more) sensors to simulate human binocular vision. High precision depth sensing, good spatial resolution, and low cost make these suitable for obstacle avoidance, 3D mapping, and robot navigation applications.

Ultrasonic sensor

Ultrasonic sensors are low-cost, easy to use, and can detect a wide range of materials, making them suitable for applications such as parking assistance and object detection.

Step 1: Overlay the data

• The first step is to calibrate and align all the sensor views, then overlay all of your data into a single view. This fused view gives your labeler more context, allowing it to tell what groups of point clouds represent.

Step 2: Label the 3D point clouds

• We advise that you label in 3D before projecting to 2D for a few reasons, even though it may seem counterintuitive. Labeling in 3D first often proves to be significantly more efficient, even if your primary interest is in obtaining 2D labels.
• Imagine you are driving past a stationary object like a traffic sign. Equipped with multiple cameras, this traffic sign remains visible in three of them as you pass by, spanning approximately 100 frames.
• Annotating this scenario using 2D bounding boxes would require you to label a total of 300 instances. However, in the 3D space, annotating this static, non-moving traffic sign would involve a single cuboid annotation.
• While labeling a 3D cuboid does take three times as long as annotating a 2D bounding box, it is still 100 times more efficient than labeling directly in the images.

Step 3: Project to 2D images

• Once you’ve labeled your 3D point clouds, you can calibrate and align them to your 2D image data. Segments.ai will automatically copy over object IDs to the 2D data, saving you hours of drawing bounding boxes. You only need to make minor adjustments during your quality control check.

AV आणि रोबोटिक्स कंपन्यांमध्ये त्यांच्या मशीन लर्निंग (ML) मॉडेल्समध्ये लेट फ्यूजन पद्धतीकडून अर्ली फ्यूजन पद्धतीकडे संक्रमण अधिकाधिक प्रमाणात होत आहे.

लेट फ्यूजनमध्ये प्रत्येक वापरलेल्या सेन्सरसाठी स्वतंत्र ML मॉडेल्सचा वापर केला जातो, जे स्वतंत्र आउटपुट तयार करतात. हे आउटपुट्स नंतर एकत्रित किंवा फ्यूज करून सीनचे एक सुसंगत 3D प्रतिकृती तयार केली जाते. यात अनेक मॉडेल्स स्वतंत्रपणे चालवून त्यांचे परिणाम नंतर एकत्र केले जातात.

अर्ली फ्यूजन एक अधिक आधुनिक दृष्टिकोन स्वीकारतो. प्रत्येक सेन्सरसाठी वेगवेगळे मॉडेल वापरण्याऐवजी, सर्व सेन्सर डेटा एका एकत्रित ML मॉडेलमध्ये दिला जातो. हे एकत्रित मॉडेल थेट 3D स्पेसमध्ये अंदाज वर्तवण्यासाठी डिझाइन केलेले आहे.

लवकर फ्यूजन प्रभावी होण्यासाठी, व्हॉक्सेल ग्रिड्स दृश्याचे एक फायदेशीर प्रतिनिधित्व ठरतात. व्हॉक्सेल ग्रिड्समध्ये नियमित रचना असते, त्यामुळे हा दृष्टिकोन वापरण्यासाठी त्या योग्य ठरतात. त्यांना टेन्सर्सप्रमाणे विचार करता येते, ज्यामुळे एंड-टू-एंड भाकीत करणे शक्य होते. इनपुटपासून आउटपुटपर्यंत संपूर्ण प्रक्रिया एका एकाच मॉडेलद्वारे भाकीत करता येते.