Pourquoi n'avez-vous pas encore de voiture autonome ? Cette série en 2 parties explique les gros problèmes restants

Les gens demandent souvent : « Où est ma voiture autonome ? » « Pourquoi n'en ai-je pas et quand viendra-t-il ? » Beaucoup de gens ont l'impression qu'on leur a promis une voiture à la fin de la vingtaine et qu'il est tard, et peut-être qu'il n'arrive pas, comme les voitures volantes dont on parlait il y a des décennies.

Dans cette série de deux articles (accompagnés de vidéos), examinons les principales raisons pour lesquelles vous ne roulez probablement pas dans un robocar aujourd'hui, et quand cela pourrait arriver. Quels sont les principaux problèmes technologiques, juridiques et sociaux qui se dressent sur le chemin, et, et quels problèmes ne sont en fait pas des bloqueurs ?

Pour la plupart d'entre nous, ces voitures ne peuvent pas arriver assez tôt. Ils ont la promesse d'éviter une fraction décente des accidents de voiture d'aujourd'hui qui tuent plus d'un million chaque année dans le monde. Ils vont nous faciliter la vie et réécrire les principes du transport. Ce faisant, ils réécriront où nous vivons et la nature même de la ville, ainsi que des dizaines d'autres industries, de l'énergie au commerce de détail. Chaque jour, nous retardons la mise en circulation de ces choses sur la route en volume, des milliers de personnes mourront aux mains de personnes qui n'auraient pas dû conduire. Chaque jour, nous retardons.

Bien sûr, c'est dur

Pour être clair, la principale raison pour laquelle "cela prend si longtemps" est que c'est difficile. L'un des plus grands projets de recherche de logiciels jamais entrepris. Cela a nécessité non seulement un logiciel révolutionnaire, mais également des tonnes de travail détaillé dans les mauvaises herbes traitant d'un grand nombre de cas particuliers et cartographiant le monde et toutes ses rides. Quiconque pense ou pense que cela peut être livré selon un calendrier se trompe et n'a jamais travaillé dans un logiciel auparavant. Lorsque les constructeurs automobiles ont annoncé des dates comme 2020, c'étaient des espoirs, pas des prédictions, et le fait que certaines entreprises technologiques aient réussi à le faire était incroyable. Les projets pluriannuels nécessitant des percées ne sont jamais prédits avec précision.

Personne avec une formation en logiciel ne serait du tout choqué si les prévisions pour un si grand projet faites il y a de nombreuses années ne sont pas exactes. Les choses ne sont donc pas « en retard », même si elles n'ont pas répondu aux espoirs optimistes. Cela signifie également que les choses se font par petites étapes.

Le plus gros bloqueur n'est cependant pas de le faire réellement (c'est-à-dire de le rendre sûr) mais de savoir que vous l'avez fait.

Prouver que vous l'avez vraiment rendu sûr

Le premier objectif technologique était simplement de le réaliser. Fabriquer une voiture capable de se conduire en toute sécurité. C'est une réalisation massive, mais au moins dans quelques villes, quelques entreprises ont déjà réussi. Conduire de manière plus sûre que l'humain moyen a été fait par des entreprises comme Waymo dans les rues faciles de Phoenix. C'était « la partie la plus difficile », mais une partie encore plus difficile consiste à définir ce qu'est la sécurité, à la mesurer et à prouver que vous l'avez fait. Vous devez le prouver à vous-même, à votre conseil d'administration, à vos avocats, au public et peut-être même au gouvernement. Tout comme le vaccin Moderna Covid était prêt en février 2020, avant le premier confinement, le monde a attendu 10 mois – tandis qu'un million de personnes sont mortes sans lui – avant de laisser les premières personnes se faire vacciner. Nous avons attendu qu'ils prouvent qu'ils l'avaient fait.

Mesurer la sécurité est assez difficile. Nous savons à quelle fréquence les conducteurs humains ont des accidents de tous types, des chocs mineurs aux accidents mortels. Des décès surviennent environ tous les 80 millions de kilomètres aux États-Unis, soit environ 2 millions d'heures de conduite. Nous ne pouvons pas tester chaque version du logiciel en disant : « Faisons-le parcourir un milliard de kilomètres et voyons s'il tue moins que la douzaine de personnes qui mourraient si les humains roulaient aussi loin. C'est une distance impossible à parcourir sur de vraies routes ne serait-ce qu'une seule fois, et encore moins avec chaque nouvelle version. Nous pourrions conduire beaucoup moins et compter les coups et les accidents mineurs - en fait, c'est le meilleur que nous ayons trouvé jusqu'à présent car c'est au moins possible - mais nous ne savons pas si cela concerne les blessures avec des robots de la même manière. fait avec les gens.

Beaucoup commencent par la voie traditionnelle de l'industrie automobile. Ils testent chaque composant de leurs véhicules pour s'assurer qu'il est fiable et conforme aux spécifications. Ils essaient de le faire avec des systèmes de composants, mais cette méthodologie devient difficile lorsque les choses deviennent plus complexes. C'est ce qu'on appelle la sécurité fonctionnelle - les composants et les systèmes sont-ils exempts de défauts et gèrent-ils les défaillances potentielles connues.

Plus récemment, il y a eu plus d'efforts pour faire passer cela au niveau des systèmes et essayer de tester la "sécurité de la fonctionnalité prévue". Avec SOTIF, les équipes travaillent pour s'assurer que des systèmes entiers fonctionneront toujours, à la fois avec des problèmes et des défaillances de composants, et avec une mauvaise utilisation anticipée. Cela implique souvent une simulation de l'ensemble du système, ou de parties de celui-ci, ou une simulation « hardware in the loop » qui est plus facile et plus sûre que les tests en direct sur les routes.

Les tests de simulation offrent la possibilité de tester un système dans des millions de scénarios différents. Tout ce que quelqu'un a déjà vu, entendu ou rêvé - avec des centaines de légères variations de toutes ces choses.

Peut-être la chose la plus difficile à tester, mais ce que vous voulez le plus savoir, c'est la façon dont un système réagit à des situations inédites. Bien que vous puissiez créer des tests de simulation pour savoir que le véhicule fonctionne bien dans presque toutes les situations attendues, une grande capacité magique de l'esprit humain est la capacité de gérer des problèmes jamais vus auparavant. Les IA peuvent le faire, mais elles ne sont pas aussi bonnes. Finalement, nous espérons trouver un moyen d'obtenir chaque jour de nouveaux scénarios réalistes et dangereux. C'est bien aujourd'hui que votre voiture ait été programmée pour gérer tout ce à quoi tout le monde a pensé, mais le véritable étalon-or peut être de lancer 20 nouvelles situations jamais vues auparavant, chaque jour, et de découvrir qu'elle gère la plupart d'entre elles. Même les humains ne les maîtrisent pas tous. C'est une chose que j'espère voir se produire à travers le Projet piscine de sécurité, que j'ai aidé à lancer avec le Forum économique mondial, Deepen.AI et l'Université de Warwick.

Même avec toute la simulation, vous devez également tester en direct sur la route. Personne ne va déployer une voiture qui n'a pas montré qu'elle gère très bien le monde réel. Bien que coûteux, le système consistant à utiliser des conducteurs de sécurité humains pour superviser les opérations de robocar a en fait un excellent bilan et ne met pas en danger le public par rapport à la conduite humaine ordinaire.

Dans l'industrie, chaque entreprise tombe sur elle-même pour décrire à quel point elle est dévouée à la sécurité. C'est leur travail de fabriquer un véhicule sûr, mais ils font ces déclarations pour plaire aux fonctionnaires et au public. Ironiquement, l'intérêt public n'est pas de fabriquer les robocars les plus sûrs, mais plutôt les routes les plus sûres. Les Robocars sont un outil qui peut apporter des routes plus sûres, et plus tôt ils arriveront ici, mieux ils le feront. Les responsables, s'ils prenaient au sérieux leur devoir d'améliorer la sécurité routière globale, encourageraient en fait les entreprises à ne pas aller trop loin en matière de sécurité et à se concentrer plutôt sur le déploiement le plus rapide d'une technologie plus sûre - même s'ils en font moins pour prouver qu'il est sûr lorsque le déploiement est petit , ça va plus vite. Mais ils ne le feront jamais, à cause de la façon dont la société réagit aux erreurs et aux risques.

Un deuxième élément de la sécurité est la cybersécurité. Nous avons besoin que ces voitures soient robustes contre les tentatives de prise de contrôle. Certaines personnes n'aiment pas parler de cybersécurité, mais l'histoire passée de l'industrie automobile n'a pas été formidable. Cela implique non seulement des pratiques et des outils sécurisés, mais aussi ce qu'on appelle une «équipe rouge», où une équipe de pirates informatiques experts chasse de l'extérieur pour trouver des vulnérabilités jusqu'à ce qu'ils n'en trouvent plus. Un autre outil important consiste à minimiser la connectivité, ou ce que les responsables de la sécurité appellent les « surfaces d'attaque ». Beaucoup dans l'industrie sont obsédés par ce qu'ils imaginent être la "voiture connectée" et confondent la connectivité avec une révolution aussi importante que la conduite autonome. Ce n'est pas le cas, pas à distance. Une certaine connectivité est nécessaire, mais elle doit être utilisée avec parcimonie afin que la véritable révolution puisse rester sécurisée.

L'un des plus grands défis pour les tests est la large utilisation de l'apprentissage automatique par toutes les équipes de robocar. L'apprentissage automatique est un outil d'IA extrêmement puissant, et la plupart pensent qu'il est essentiel, mais il a tendance à produire des outils «boîte noire» qui prennent des décisions mais que personne ne comprend pleinement. Si vous ne savez pas comment un système fonctionne ou pourquoi il échoue ou fait ce qu'il faut, il est difficile de le tester et de le certifier. En Europe, ils ont promulgué des lois exigeant que toute l'IA soit «explicable» à un certain niveau, mais de nombreux réseaux d'apprentissage automatique sont très difficiles à expliquer. C'est effrayant, mais ils sont si puissants que nous ne les abandonnerons pas. Nous pouvons être confrontés à une boîte noire qui est deux fois plus sûre dans les tests qu'un système explicable, et il existe des arguments convaincants que les gens avancent en faveur de l'un ou l'autre choix.

Prédire le futur

Un robocar est recouvert de capteurs, tels que des caméras, des radars, des lasers LIDAR et plus encore. Les capteurs sont probablement l'aspect le plus discuté du matériel, mais en fait, les capteurs ne vous disent pas du tout ce que vous voulez savoir. C'est parce que les capteurs vous disent où se trouvent les choses en ce moment, mais vous ne vous en souciez pas tellement. Vous vous souciez de savoir où les choses vont se passer dans le futur. Les informations des capteurs ne sont qu'un indice vers le véritable objectif de prédire l'avenir. Savoir où se trouve quelque chose et à quelle vitesse il se déplace est un bon début, mais savoir ce que c'est est tout aussi important pour savoir où il sera. La plupart des objets sur ou à proximité de la route ne sont pas balistiques - un humain est en charge et peut changer de cap. C'est pourquoi l'un des domaines clés de la recherche aujourd'hui est de mieux prédire ce que les autres sur la route, en particulier les humains, vont faire. Cela peut aller de la connaissance du comportement de conduite à la détermination si un piéton se tenant au coin de la rue est sur le point d'entrer dans le passage pour piétons ou navigue sur le Web.

Alors que plusieurs équipes ont fait de grands progrès, il s'avère que les gens sont meilleurs que les robots d'aujourd'hui pour prédire les autres. S'améliorer dans ce domaine est l'un des principaux problèmes de la liste des tâches, en particulier dans des environnements plus complexes comme les villes animées. Prédire l'avenir implique également de prédire comment les autres réagiront à vos propres mouvements et aux mouvements prévus des autres. Une fusion de voies ou un virage à gauche non protégé peut être une danse avec des concessions mutuelles, et les robocars essaieront constamment d'améliorer leur façon de faire.

Détection plus rapide

Les capteurs ne sont peut-être qu'un moyen d'atteindre le véritable objectif, mais mieux ils font, mieux vous pouvez prédire cet avenir. Les équipes cherchent toujours à rendre les capteurs plus rapides pour accélérer la perception et la prédiction. Une chose importante est de connaître la vitesse des objets en mouvement. Le radar vous le dit, mais pas les caméras et les anciens LIDAR, à moins que vous ne regardiez plusieurs images. Certains LIDAR plus récents peuvent vous indiquer la vitesse ainsi que la distance. Regarder plusieurs images prend au moins autant de temps que de prendre les images, mais généralement plus.

Une situation qui peut poser problème est de se déplacer sur l'autoroute derrière un véhicule plus gros. Imaginez que devant ce véhicule se trouve un camion calé sur l'accotement, coincé dans la voie. Cela arrive souvent avec les accidents et les véhicules d'urgence. Soudain, le gros véhicule devant vous vire à droite pour éviter l'obstacle, et vous voyez ce camion en panne pour la première fois. Vous n'avez vraiment pas beaucoup de temps pour freiner ou virer, et vous n'avez peut-être même pas d'endroit où aller. Si vous devez regarder 3 images de vidéo pour voir qu'elle ne bouge pas, c'est probablement 1/10e de seconde perdue, et c'est une situation où cela peut avoir de l'importance. Ainsi, de nombreuses équipes recherchent des moyens d'obtenir cet avantage, et elles l'ont trouvé principalement dans les LIDAR qui peuvent mesurer le "Doppler" pour connaître la vitesse de tout ce qu'ils frappent avec le laser. Les radars connaissent aussi la vitesse, mais le monde est plein d'objets arrêtés reflétant des radars, et il est difficile de distinguer le véhicule arrêté du garde-corps arrêté à côté.

Prenant le long chemin

Je mentionnerai brièvement qu'une raison pour laquelle une équipe célèbre - TeslaTSLA
– n'est pas encore prêt, c'est qu'ils essaient délibérément de compliquer le problème. Alors que chaque équipe fait un usage intensif de la vision par ordinateur, Tesla veut la faire fonctionner uniquement avec la vision par ordinateur et uniquement les caméras à partir de 2016. La plupart des autres équipes ajoutent également de meilleures caméras, LIDAR, radar et cartes à leur boîte à outils. Tesla veut une vision révolutionnaire qui peut le faire moins cher. Ils disent que tous ces outils supplémentaires sont des distractions. Mais le reste de l'industrie veut utiliser tous les outils pour le faire plus tôt, si à un coût plus élevé, et pense que Tesla est en train de se paralyser. Jusqu'ici, sur la base de la qualité du produit - Tesla FSD est sérieusement loin derrière - les autres ont raison, même si la course n'est pas terminée.

C'est la première partie. La deuxième partie examine des choses comme être un bon citoyen des routes, pourquoi les robocars sont déployés une ville à la fois au lieu de partout à la fois, et les problèmes liés à la gestion d'une logistique plus banale comme s'arrêter pour prendre des passagers, des modèles commerciaux, applications, et trop se soucier de la sécurité tout en faisant en sorte que les gouvernements et le public vous acceptent. Je vais également énumérer quelques facteurs sur lesquels on travaille mais qui ne sont pas de véritables obstacles au déploiement. Recherchez la deuxième partie dans les jours à venir.

Certains pensent que le fait qu'ils n'ont pas ou ne montent pas dans un robocar en 2022 signifie que le développement est très en retard. En réalité, il n'y a jamais eu de calendrier sérieux, seulement des espoirs, mais en fait, cette liste de problèmes augure de l'optimisme, car ces problèmes restants semblent généralement traitables. Un travail acharné et de l'argent, pas des percées, sont nécessaires pour faire face à la plupart d'entre eux.

Restez à l'écoute pour la deuxième partie, sous forme de vidéo et de texte

Vous pouvez laisser des commentaires sur cette page, ou sur la page vidéo.