Blog

Mar 17, 2024

Vous êtes nerveux à propos de ChatGPT ? Essayez ChatGPT avec un marteau

Bruce Schneier Nathan Sanders En mars dernier, à peine deux semaines après la sortie de GPT-4, des chercheurs de Microsoft ont discrètement annoncé un projet visant à compiler des millions d'API, des outils capables de tout faire :

Bruce SchneierNathan Sanders

En mars dernier, à peine deux semaines après la sortie de GPT-4, des chercheurs de Microsoft ont discrètement annoncé un projet visant à compiler des millions d'API (des outils capables de tout faire, de la commande d'une pizza à la résolution d'équations physiques en passant par le contrôle de la télévision de votre salon) dans un recueil qui serait rendu accessible aux grands modèles de langage (LLM). Il ne s’agissait là que d’une étape importante dans la course menée par l’industrie et le monde universitaire pour trouver les meilleurs moyens d’enseigner aux LLM comment manipuler les outils, ce qui dynamiserait le potentiel de l’IA plus que n’importe laquelle des avancées impressionnantes que nous avons vues jusqu’à présent.

Le projet Microsoft vise à apprendre à l’IA à utiliser tous les outils numériques d’un seul coup, une approche intelligente et efficace. Aujourd'hui, les LLM peuvent faire un très bon travail en vous recommandant des garnitures de pizza si vous décrivez vos préférences alimentaires et pouvez rédiger un dialogue que vous pourriez utiliser lorsque vous appelez le restaurant. Mais la plupart des outils d’IA ne peuvent pas passer de commande, même en ligne. En revanche, l'outil Assistant de Google, vieux de sept ans, peut synthétiser une voix au téléphone et remplir un formulaire de commande en ligne, mais il ne peut pas choisir un restaurant ni deviner votre commande. Cependant, en combinant ces capacités, un outil utilisant l’IA pourrait tout faire. Un LLM ayant accès à vos conversations passées et à des outils tels que des calculateurs de calories, une base de données de menus de restaurant et votre portefeuille de paiement numérique pourrait raisonnablement juger que vous essayez de perdre du poids et que vous souhaitez une option faible en calories, trouvez le restaurant le plus proche avec les garnitures que vous aimez. , et passez le bon de livraison. S’il a accès à votre historique de paiement, il pourrait même deviner à quel point vous donnez habituellement un pourboire généreux. S'il a accès aux capteurs de votre montre intelligente ou de votre tracker d'activité, il pourra peut-être détecter quand votre glycémie est basse et commander la tarte avant même que vous réalisiez que vous avez faim.

Nathan Sanders est un data scientist affilié au Berkman Klein Center de l'Université Harvard. Il écrit de nombreux écrits sur les effets de l'IA sur la démocratie.

Bruce Schneier est un technologue en sécurité. Il a écrit plus d'une douzaine de livres, dont « L'esprit d'un hacker : comment les riches et puissants contournent les règles de la société et comment les plier ». Il enseigne à la Harvard Kennedy School et vit dans le Massachusetts.

Les applications potentielles les plus intéressantes de l’utilisation des outils sont peut-être celles qui donnent aux IA la capacité de s’améliorer. Supposons, par exemple, que vous demandiez à un chatbot de vous aider à interpréter une facette du droit romain antique dont personne n'avait pensé à inclure des exemples dans la formation originale du modèle. Un LLM habilité à rechercher des bases de données académiques et à déclencher son propre processus de formation pourrait affiner sa compréhension du droit romain avant de répondre. L’accès à des outils spécialisés pourrait même aider un modèle comme celui-ci à mieux s’expliquer. Alors que les LLM comme GPT-4 réussissent déjà assez bien à expliquer leur raisonnement lorsqu'on leur demande, ces explications émergent d'une « boîte noire » et sont vulnérables aux erreurs et aux hallucinations. Mais un LLM utilisant un outil pourrait analyser ses propres éléments internes, en proposant des évaluations empiriques de son propre raisonnement et des explications déterministes des raisons pour lesquelles il a produit la réponse qu'il a produite.

S'il avait accès à des outils permettant de solliciter des commentaires humains, un outil utilisant un LLM pourrait même générer des connaissances spécialisées qui ne sont pas encore capturées sur le Web. Il pourrait publier une question sur Reddit ou Quora ou déléguer une tâche à un humain sur Mechanical Turk d'Amazon. Il pourrait même rechercher des données sur les préférences humaines en effectuant des recherches par sondage, soit pour vous fournir une réponse directement, soit pour affiner sa propre formation afin de pouvoir mieux répondre aux questions à l'avenir. Au fil du temps, les IA utilisant des outils pourraient commencer à ressembler beaucoup aux humains qui utilisent des outils. Un LLM peut générer du code beaucoup plus rapidement que n’importe quel programmeur humain, ce qui lui permet de manipuler facilement les systèmes et les services de votre ordinateur. Il pourrait également utiliser le clavier et le curseur de votre ordinateur comme le ferait une personne, lui permettant d'utiliser n'importe quel programme que vous utilisez. Et il pourrait améliorer ses propres capacités, en utilisant des outils pour poser des questions, mener des recherches et écrire du code à intégrer en lui-même.