Le texte français suit ci-dessous.

Watch Video

Or listen to the extended conversation:

---

Technology and Research

Justin Mallet: AI is frequently touted as a game-changer in healthcare, but this is a very broad statement. Based on your experience, could you give us one quick example of advancements or areas where you see potential improvements AI could bring to the healthcare sector in Canada?

Ryan MacDonald: Although it might seem counterintuitive at first, I believe AI has the opportunity to make healthcare more human. We ask a lot of our care providers in our health system. Not only do we expect them to be there for people during some of their most challenging moments, but we also ask them to take on administrative tasks, handle documentation, become technology experts, understand countless referral pathways, and manage quality improvement and research on top of everything else.

By automating and simplifying these administrative tasks, AI can significantly alleviate the burden on care providers. This enables them to focus on what they do best—providing care. Additionally, AI can help improve the pace of diagnosing patients, which ultimately enhances the quality of care.

Laurent Tillement: I would say that exactly as Ryan mentioned, AI is a tool. It’s a tool that helps people excel at what they do. In healthcare, AI’s ability to quickly and accurately analyze large volumes of diverse data from multiple sources is particularly valuable.

AI can be applied wherever data exists. This means it spans across prevention, diagnosis, patient monitoring, and, as Ryan mentioned, administrative tasks. It can improve processes, streamline supply chains, and ultimately make healthcare systems more efficient.

Justin Mallet: Personalized care is certainly one of the exciting prospects AI brings. If we dive into your own organizations’ work, both of your institutes are part of the AI with Roche initiative, known as AIR. Could you share some of the great work your organizations are doing related to healthcare?

Laurent Tillement: We are fostering a lot of research. This includes collaborations between academic labs, such as an AI lab at MILA and a biology lab at one of the universities we partner with. These efforts range from drug discovery—finding new molecules and biomarkers—to imaging, like using MRI to better interpret and understand diseases. Additionally, we have programs where professors with expertise in AI team up with those in life sciences to address larger problems. Oncology is one area of interest for our researchers, along with antibiotic resistance and preventing the next pandemic.

This work focuses on fundamental research with an applied perspective. It also includes training—helping our professors, experts, and others understand how to collect and use data effectively and where AI can play a role. It’s about using the right tool for the right purpose.

Ryan MacDonald: At Vector, one of the things we’ve been really focusing on is the translation of research into application. Last year, we launched an implementation toolkit, which provides lessons from organizations across the country that have begun scaling AI implementations.

We’re particularly focused on making data more accessible. For example, we supported an initiative at Unity Health Toronto called GEMINI, which has created one of the largest AI- and ML-ready databases for hospital inpatient EHR data. This database has enabled remarkable advancements in both research and clinical deployment.

One specific project within the GEMINI initiative is helping to identify and train a model to predict delirium. Delirium is a significant issue, costing Canada $4 billion annually, with 40% of cases being entirely preventable. Clinicians are often overwhelmed and may struggle to determine whether an elderly patient is simply tired or if they’re developing delirium. This uncertainty can lead to high costs for the healthcare system, immense pain and suffering for families, and poor patient outcomes—such as an inability to return to their prior quality of life after hospital-acquired delirium. This is just one example of the exciting work we’re involved in, and I’m eager to discuss more.

---

The Challenges of AI in Healthcare

Justin Mallet: We have clearly established that AI has great potential to solve some healthcare challenges by now, but we know we might not realistically reap the benefits so soon. AI comes with its own set of challenges. For example, we might think of the technological deficit the federal government is trying to address with the Canadian Sovereign AI Compute Strategy. I’d like to hear from you both about some of the challenges you have had to face specifically for AI in healthcare.

Ryan MacDonald: Access to data is a huge challenge. I like to think about it as a natural resource for Canada. This is something that has tremendous economic potential for our economy, if we can unleash it in the right way. But much like a natural resource, you have to think critically about doing that responsibly.

One thing I’m really excited about is the concept of privacy-enhancing technologies and federated data and learning opportunities.

For those who might not know what federated data and federated training are, I like to go back to grade seven math. Imagine two equations, like y = mx + b. You can share the equations of two lines and calculate their intersection point without ever disclosing the lines themselves. Similarly, with federated data, you can share AI model weights across multiple institutions and find solutions collectively without exposing the original datasets.

Laurent Tillement: One of the challenges I see is the imbalance between two systems. The health system is highly regulated, slow, and based on empirical data—data that we’ve used and continue to use now.

On the other hand, AI moves incredibly fast—much faster than life sciences. These are two different worlds operating in distinct ways, both for the benefit of humanity and patients. However, this difference creates tension. Healthcare professionals are understandably wary of a tool that analyzes and processes data faster than they can. There’s fear of being replaced.

But as I mentioned earlier, AI is a tool. It’s a tool that enables healthcare providers to spend more time with their patients, focusing on interpreting what patients are saying, while relying on AI to process other data—whether it’s on their computer screen, lab results, or imaging. This allows providers to excel in interpreting, diagnosing, and prescribing the right treatment to the right patient.

Ryan MacDonald: Laurent, you got me thinking about the concept of fear of job replacement, and I think it’s something we need to tackle head-on. It reminds me of a story about an organization Vector supported in the early days of our health work, called Medly.

Medly is a tool that helps predict chronic heart failure. It’s essentially an app for program participants where they enter their morning stats—how they’re feeling, weight, blood pressure, and so on. An AI model then analyzes this data to detect if a person is likely to deteriorate or might need hospitalization in the near future. If flagged, a nurse can reach out early, preventing an emergency room visit by conducting a proactive check-in.

The results have been phenomenal from a workforce perspective. They’ve increased the ratio of patients to nurses from one nurse per 25 patients to one nurse per 400 patients—an order of magnitude improvement. Yet, whenever I speak to government leaders or nursing professionals, questions always arise: “What about job replacement? Are we overworking staff? Is this sustainable?”

I posed these questions to the team working with Medly, and their response was enlightening. They said there has been a tremendous increase in job satisfaction. Nurses know that when they’re reaching out to someone, it’s not just a routine check-in that might not lead to anything. Instead, they’re making interventions with a high likelihood of saving a life or significantly improving someone’s quality of life. This sense of purpose has made a huge difference.

---

Harnessing Health Data

Justin Mallet: It’s interesting how these challenges come up at different ends of the spectrum—the data needed to conduct research and then the implementation or commercialization side. If we try to bring these together, they are all challenges that must be addressed collaboratively, involving patients, caregivers, and industry to ensure everyone is on board, well-informed, and understands the potential outcomes of these technologies.

Modernization of healthcare is a priority across Canada, from the federal to the provincial level. A foundational aspect of this is ensuring our health data is standardized and interoperable. This is crucial for fueling these new technologies and ensuring their benefits are distributed equitably across different populations. AI and technology present opportunities to enhance equity in healthcare. What role do you think individuals and patients can play in ensuring their health data is high-quality, secure, and supportive of advancements in this space?

Laurent Tillement: We need a lot of data. While systems are improving and there are pre-trained models that require less data—some even based on non-medical data—we still need significant amounts of data. Why? Because algorithms will become biased if not trained with as much diverse data as possible.

When we think about equity and diversity, we need data that reflects all populations. Healthcare systems must ensure they collect data from diverse populations. For example, disease prevalence differs across ethnicities—not because we want it that way, but due to genetic differences. Including data from the full spectrum of populations improves systems, predictions, and outcomes. The more diverse and comprehensive the data, the better the algorithms’ performance.

Ryan MacDonald: I was at a talk a couple of weeks ago, and a founder of a health AI company spoke about how access to data has changed. When they started their company five years ago, it was much easier to get data from institutions than it is today.

Their hypothesis is that institutions are now more focused on their own commercialization strategies and protecting the assets they hold. The result is frustrating: for example, a successful radiologist in Toronto cannot access data from their institution and has to go to Eastern Europe to train their model. That data is then used in a model deployed in Canada, which doesn’t make sense.

We need Canadian companies to succeed. From a systems perspective, it’s clear that we should support organizations in accessing data responsibly. Health data is a natural resource, and with that comes the responsibility to approach its use equitably, while also promoting access so that our innovators can innovate.

Justin Mallet: The quality of that resource is, of course, tied to the quality of the data itself. But equally important is the variety and diversity of that data. Canada has tremendous potential to harness these aspects and make this resource highly valuable.

---

Mitigating the Risks of AI

Justin Mallet: We need to mitigate the risks that come with AI. Potential harm is a serious concern, and we must ensure that we avoid it. On a global level, we’re seeing dynamics change quickly—there’s no clear, shared perspective on risk tolerance, yet there’s a strong desire to lead the global race to AI enablement.

Canada, like many other countries, will establish its AI Safety Institute, and both of your organizations will participate in this initiative. Are we doing enough to address public concerns?

Ryan MacDonald: There’s a misconception that AI safety is one thing, but I think that’s incorrect—it’s multiple things. Governance and regulatory structures are critical—they dictate how AI models are developed, tested, and implemented. But AI safety also involves culture, evaluation techniques, and ongoing research.

At Vector, we’re focusing on fostering a culture around performance monitoring and sharing that in an open-science way. When developing a model, it’s essential to not just publish its performance for initial trials but to evaluate it continuously. For instance, how does the model perform over time and across different groups of people?

One significant risk in AI is model performance drifting if the population or data changes substantially. Monitoring and addressing these changes is vital to maintaining safety and trust.

Laurent Tillement: We know there’s a risk. As an institute, researchers and professionals are well aware that AI can be misused by bad actors. However, researchers aim to build trust—with the public and with governments—to secure support for their work.

This isn’t a new concern. It’s not something we’ve started thinking about since the rise of large language models. Canada has been at the forefront of this issue for years. Back in 2017, researchers united to develop the Declaration of Montreal for the responsible use of AI.

At MILA, for example, for nearly a year and a half now, research projects involving human data must go through an ethics committee. Researchers are committed to building trust by ensuring they’re doing the right thing with the data they access and use responsibly.

Justin Mallet: Yes, the issue has always existed. So maybe the conversation shouldn’t be about creating something entirely new but rather about adapting or modernizing the regulations and guardrails we already have—for responsible AI development, as well as its implementation and use.

---

Canada as a Leader in AI for Healthcare

Justin Mallet: So we are at that time where it’s time for final words, which I will leave to you both. Do you have any last thoughts or any calls to action that you want to share today?

Laurent Tillement: A call to action that I would summarize in one sentence is: Canada needs to continue to play a leading role on the world stage in terms of responsible AI, as well as in developing the legal and ethical frameworks that the world is building step by step. While the pace is slower than the technology’s progress, it’s still advancing.

Here in Canada, we have the capabilities to do this. But, of course, we need the private sector for funding and for deploying the tools we develop. For instance, in drug discovery, these tools can help create better drugs and advance precision medicine, ultimately improving patient outcomes. At the end of the day, that’s what we aim to achieve with AI in healthcare.

Ryan MacDonald: I think it’s deeply Canadian that we are pioneers in AI, yet we almost don’t talk about it enough. Even the announcements our governments make—while they are fantastic steps forward—tend to focus on preserving our leadership position rather than celebrating the fact that we are forging a new path forward.

We have incredible innovators and organizations in this country. We need to empower these people and entities to lead. Whether it’s Unity Health Toronto, Jewish General Hospital, or startups like Cohere and Signal 1, we need to support those with expertise who are forging this path.

It’s critical that we create systems with interoperability and complexity in mind so that 20 years from now, we’re not struggling to make AI systems communicate with one another. Instead, we’ll be able to focus entirely on patients—exactly what everyone wants to do.

Justin Mallet: Great calls to action. What I hear is a push for implementation in a coordinated way—ensuring people learn from one another, avoid creating silos, and still move forward with action and implementation because patients need these solutions now.

---

Calls to Action

1. On AI Safety and Governance

• AI safety is about more than just governance and regulations; it is also about culture, evaluation techniques, and research.
• Canada must continue playing a leading role on the world stage in terms of AI innovation and developing legal and ethical frameworks for AI.

2. On Data Equity and Diversity

• Healthcare systems must ensure that they collect more data and that they collect data from diverse populations to ensure healthcare equity.
• Health data should be thought of as a natural resource with tremendous economic potential if harnessed in the right way.

3. On Data Sharing and Collaboration

• Healthcare institutions must be more open to sharing data with other companies to ensure that industry-wide innovation can occur.
• The government must empower Canadian innovators to take the next step and develop interoperable AI for health systems.

---

Version française

La révolution de l’IA dans les soins de santé au Canada

---

Technologie et Recherche

Justin Mallet : L’IA est souvent présentée comme un facteur de changement dans les soins de santé, mais il s’agit là d’une affirmation très générale. Sur la base de votre expérience, pourriez-vous nous donner un exemple rapide d’avancées ou de domaines dans lesquels vous voyez des améliorations potentielles que l’IA pourrait apporter au secteur des soins de santé au Canada ?

Ryan MacDonald : Même si cela puisse sembler contre-intuitif à première vue, je pense que l’IA a la possibilité de rendre les soins de santé plus humains. Dans notre système de santé, nous demandons beaucoup à nos prestataires de soins. Non seulement nous attendons d’eux qu’ils soient là pour les gens dans les moments les plus difficiles, mais nous leur demandons aussi d’assumer des tâches administratives, de gérer la documentation, de devenir des experts en technologie, de comprendre d’innombrables modèles d’orientation et de gérer l’amélioration de la qualité et la recherche en plus de tout le reste.

En automatisant et en simplifiant ces tâches administratives, l’IA peut considérablement alléger le fardeau des prestataires de soins. Ils peuvent ainsi se concentrer sur ce qu’ils font le mieux, à savoir prodiguer des soins. En outre, l’IA peut contribuer à améliorer le rythme de diagnostic des patients, ce qui, en fin de compte, améliore la qualité des soins.

Laurent Tillement : Je dirais, comme Ryan l’a mentionné, que l’IA est un outil. C’est un outil qui aide les gens à exceller dans ce qu’ils font. Dans le domaine des soins de santé, la capacité de l’IA à analyser rapidement et avec précision de grands volumes de données diverses provenant de sources multiples est particulièrement précieuse.

L’IA peut être appliquée partout où des données existent. Cela signifie qu’elle s’applique à la prévention, au diagnostic, au suivi des patients et, comme Ryan l’a mentionné, aux tâches administratives.

Justin Mallet : La personnalisation des soins est certainement l’une des perspectives passionnantes qu’offre l’IA. Si nous nous penchons sur le travail de vos propres organisations, vos deux instituts font partie de l’initiative AI with Roche, connue sous le nom d’AIR. Pourriez-vous nous faire part de quelques-uns des excellents travaux réalisés par vos organisations dans le domaine des soins de santé ?

Laurent Tillement : Nous soutenons de nombreuses recherches. Cela concerne des collaborations entre des laboratoires universitaires, comme un laboratoire d’IA chez MILA et un laboratoire de biologie dans l’une des universités dont nous sommes partenaires. Ces efforts vont de la découverte de médicaments – trouver de nouvelles molécules et des biomarqueurs – à l’imagerie, comme l’utilisation de l’IRM pour mieux interpréter et comprendre les maladies. En outre, nous avons des programmes dans le cadre desquels des professeurs spécialisés dans l’IA font équipe avec des spécialistes des sciences de la vie pour s’attaquer à des problèmes plus vastes. L’oncologie est un domaine d’intérêt pour nos chercheurs, tout comme la résistance aux antibiotiques et la prévention de la prochaine pandémie.

Ce travail se concentre sur la recherche fondamentale dans une perspective appliquée. Il comprend également la formation, qui consiste à aider nos professeurs, nos experts et d’autres personnes à comprendre comment collecter et utiliser les données de manière efficace et où l’IA peut jouer un rôle. Il s’agit d’utiliser le bon outil pour le bon usage.

Ryan MacDonald : Chez Vector, l’une des choses sur lesquelles nous nous sommes vraiment concentrés concerne la traduction de la recherche en application. L’année dernière, nous avons lancé une boîte à outils de mise en œuvre, qui présente les leçons tirées par des organisations de tout le pays qui ont commencé à mettre en œuvre l’IA à grande échelle.

Nous nous attachons particulièrement à rendre les données plus accessibles. Par exemple, nous avons soutenu une initiative de Unity Health Toronto appelée GEMINI, qui a créé l’une des plus grandes bases de données prêtes pour l’IA et le ML pour les données des DSE des patients hospitalisés. Cette base de données a permis des avancées remarquables en matière de recherche et de déploiement clinique.

Un projet spécifique dans le cadre de l’initiative GEMINI aide à identifier et à former un modèle pour prédire le délire. Le délire est un problème important, qui coûte au Canada 4 milliards de dollars par an et dont 40 % des cas sont entièrement évitables. Les cliniciens sont souvent débordés et peuvent avoir du mal à déterminer si un patient âgé est simplement fatigué ou s’il est en train de développer un delirium. Cette incertitude peut entraîner des coûts élevés pour le système de santé, d’immenses souffrances pour les familles et de mauvais résultats pour les patients, comme l’incapacité de retrouver leur qualité de vie antérieure après un délire survenu à l’hôpital. Il ne s’agit là que d’un exemple parmi d’autres.

---

Les défis de l’IA dans les soins de santé

Justin Mallet : Nous avons clairement établi que l’IA possède un grand potentiel pour résoudre certains problèmes liés aux soins de santé, mais nous savons que nous ne pourrons pas en récolter les fruits aussi rapidement. L’IA possède son propre lot de défis. Par exemple, nous pouvons penser au déficit technologique que le gouvernement fédéral tente de combler avec la Stratégie souveraine canadienne de calcul de l’IA. J’aimerais que vous me parliez tous les deux de certains des défis que vous avez dû relever spécifiquement pour l’IA dans le secteur de la santé.

Ryan MacDonald : L’accès aux données est un énorme défi. J’aime penser qu’il s’agit d’une ressource naturelle pour le Canada. C’est quelque chose qui a un potentiel économique énorme pour notre économie, si nous pouvons l’exploiter de la bonne manière. Mais comme pour une ressource naturelle, il faut réfléchir de manière critique à une exploitation responsable.

Une chose qui m’enthousiasme beaucoup concerne le concept de technologies d’amélioration de la vie privée, de données fédérées et d’opportunités d’apprentissage.

Pour ceux qui ne savent pas ce que sont les données fédérées et la formation fédérée, j’aime revenir aux mathématiques en septième année. Imaginez deux équations, comme y = mx + b. Vous pouvez partager les équations de deux lignes et calculer leur point d’intersection sans jamais divulguer les lignes elles-mêmes. De même, avec les données fédérées, vous pouvez partager les poids des modèles d’IA entre plusieurs institutions et trouver des solutions collectivement, sans exposer les ensembles de données d’origine.

Laurent Tillement : L’un des défis que je vois concerne le déséquilibre entre deux systèmes. Le système de santé est très réglementé, lent et basé sur des données empiriques – des données que nous avons utilisées et que nous continuons d’utiliser aujourd’hui.

D’un autre côté, l’IA évolue incroyablement vite, bien plus vite que les sciences de la vie. Il s’agit de deux mondes différents qui fonctionnent de manière distincte, tous deux au bénéfice de l’humanité et des patients. Cependant, cette différence crée des tensions. Les professionnels de la santé se méfient à juste titre d’un outil qui analyse et traite les données plus rapidement qu’eux. Ils craignent d’être remplacés.

Mais comme je l’ai mentionné précédemment, l’IA est un outil. C’est un outil qui permet aux prestataires de soins de santé de passer plus de temps avec leurs patients, en se concentrant sur l’interprétation de ce que disent les patients, tout en s’appuyant sur l’IA pour traiter d’autres données, qu’il s’agisse de l’écran de leur ordinateur, des résultats de laboratoire ou de l’imagerie. Cela permet aux prestataires d’exceller dans l’interprétation, le diagnostic et la prescription du bon traitement au bon patient.

Ryan MacDonald : Laurent, vous m’avez fait réfléchir au concept de la peur que représente la perte d’emploi, et je pense que c’est un problème auquel nous devons nous attaquer de front. Cela me rappelle l’histoire d’une organisation que Vector a soutenue au début de son travail dans le domaine de la santé et qui s’appelle Medly.

Medly est un outil qui aide à prédire l’insuffisance cardiaque chronique. Il s’agit essentiellement d’une application pour les participants au programme où ils entrent leurs statistiques matinales – comment ils se sentent, leur poids, leur tension artérielle, etc… Un modèle d’IA analyse ensuite ces données pour détecter si l’état de santé d’une personne est susceptible de se détériorer ou si elle peut avoir besoin d’une hospitalisation dans un avenir proche. En cas de signalement, une infirmière peut intervenir rapidement, évitant ainsi une visite aux urgences, grâce à un contrôle proactif.

Les résultats ont été phénoménaux du point de vue du personnel. Le ratio patients/infirmières est passé d’une infirmière pour 25 patients à une infirmière pour 400 patients, soit une amélioration d’une ordre de grandeur. Pourtant, chaque fois que je m’adresse à des responsables gouvernementaux ou à des professionnels des soins infirmiers, des questions se posent : « Qu’en est-il du remplacement des postes ? Sommes-nous en train de surcharger le personnel ? Est-ce durable ? »

J’ai posé ces questions à l’équipe qui travaille avec Medly, et leur réponse a été éclairante. Ils m’ont dit que la satisfaction au travail s’était considérablement accrue. Les infirmières savent que lorsqu’elles contactent quelqu’un, il ne s’agit pas d’un simple contrôle de routine qui pourrait ne déboucher sur rien. Au contraire, elles interviennent avec une forte probabilité de sauver une vie ou d’améliorer considérablement la qualité de vie d’une personne. Ce sentiment d’utilité a fait une énorme différence.

---

Exploiter les données de santé

Justin Mallet : Il est intéressant de constater que ces défis se posent à différentes extrémités du spectre – les données nécessaires à la recherche, puis la mise en œuvre ou la commercialisation. Si nous essayons de les regrouper, nous constatons qu’il s’agit de défis qui doivent être relevés en collaboration, avec la participation des patients, des soignants et de l’industrie, afin de s’assurer que chacun soit impliqué, bien informé et qu’il comprenne les résultats potentiels de ces technologies.

La modernisation des soins de santé est une priorité dans tout le Canada, du niveau fédéral au niveau provincial. L’un des aspects fondamentaux de cette modernisation est de veiller à ce que nos données de santé soient normalisées et interopérables. Cela est essentiel pour alimenter ces nouvelles technologies et faire en sorte que leurs avantages soient répartis équitablement entre les différentes populations. L’IA et la technologie offrent des possibilités d’améliorer l’équité dans les soins de santé. Quel rôle pensez-vous que les individus et les patients peuvent jouer pour s’assurer que leurs données de santé soient de haute qualité, qu’elles soient sécurisées et qu’elles soutiennent les avancées dans ce domaine ?

Laurent Tillement : Nous avons besoin de beaucoup de données. Même si les systèmes s’améliorent et qu’il existe des modèles pré-entraînés qui nécessitent moins de données – certains sont même basés sur des données non médicales – nous avons toujours besoin de grandes quantités de données. Pourquoi ? Parce que les algorithmes seront biaisés s’ils ne sont pas entraînés avec autant de données diverses que possible.

Lorsque nous pensons à l’équité et à la diversité, nous avons besoin de données qui reflètent toutes les populations. Les systèmes de santé doivent s’assurer de recueillir des données provenant de diverses populations. Par exemple, la prévalence des maladies diffère d’une ethnie à l’autre, non pas parce que nous le voulons, mais en raison de différences génétiques. L’inclusion de données provenant de l’ensemble des populations permet d’améliorer les systèmes, les prévisions et les résultats. Plus les données sont diverses et complètes, plus les algorithmes sont performants.

Ryan MacDonald : Il y a quelques semaines, j’ai assisté à une conférence au cours de laquelle le fondateur d’une entreprise d’IA dans le domaine de la santé a expliqué comment l’accès aux données avait changé. Lorsqu’ils ont créé leur entreprise il y a cinq ans, il était beaucoup plus facile d’obtenir des données auprès des institutions qu’aujourd’hui.

Leur hypothèse est que les institutions se concentrent désormais davantage sur leurs propres stratégies de commercialisation et sur la protection des actifs qu’elles détiennent. Le résultat est frustrant : par exemple, un radiologue réputé de Toronto ne peut pas accéder aux données de son établissement et doit se rendre en Europe de l’Est pour former son modèle. Ces données sont ensuite utilisées dans un modèle déployé au Canada, ce qui n’a aucun sens.

Nous avons besoin d’entreprises canadiennes pour réussir. Du point de vue des systèmes, il est clair que nous devons aider les organisations à accéder aux données de manière responsable. Les données relatives à la santé sont une ressource naturelle, ce qui implique la responsabilité d’aborder leur utilisation de manière équitable, tout en favorisant l’accès pour que nos innovateurs puissent innover.

Justin Mallet : La qualité de cette ressource est, bien sûr, liée à la qualité des données elles-mêmes. Mais la variété et la diversité de ces données sont tout aussi importantes. Le Canada dispose d’un énorme potentiel pour exploiter ces aspects et rendre cette ressource extrêmement précieuse.

---

Atténuer les risques de l’IA

Justin Mallet : Nous devons atténuer les risques liés à l’IA. Les dommages potentiels sont une préoccupation sérieuse, et nous devons veiller à les éviter. À l’échelle mondiale, nous constatons que la dynamique change rapidement – il n’y a pas de perspective claire et partagée sur la tolérance au risque, mais il y a un fort désir de mener la course mondiale à l’activation de l’IA.

Le Canada, comme beaucoup d’autres pays, va créer son Institut de sécurité de l’IA, et vos deux organismes participeront à cette initiative. En faisons-nous assez pour répondre aux préoccupations du public ?

Ryan MacDonald : On croit à tort que la sécurité de l’IA est une chose, mais je pense que c’est faux – il s’agit de plusieurs choses. Les structures de gouvernance et de réglementation sont essentielles : elles dictent la manière dont les modèles d’IA sont développés, testés et mis en œuvre. Mais la sécurité de l’IA implique également la culture, les techniques d’évaluation et la recherche continue.

Chez Vector, nous nous attachons à promouvoir une culture autour du suivi des performances et à les partager dans le cadre d’une science ouverte. Lors de l’élaboration d’un modèle, il est essentiel de ne pas se contenter de publier ses performances pour les essais initiaux, mais de l’évaluer en permanence. Par exemple, comment le modèle se comporte-t-il dans la durée et parmi différents groupes de personnes ?

L’un des risques importants de l’IA est la dérive des performances du modèle si la population ou les données changent de manière substantielle. Le suivi et la prise en compte de ces changements sont essentiels pour maintenir la sécurité et la confiance.

Laurent Tillement : Nous savons qu’il y a un risque. En tant qu’institut, les chercheurs et les professionnels sont bien conscients que l’IA peut être utilisée à mauvais escient par de mauvais acteurs. Cependant, les chercheurs s’efforcent d’instaurer la confiance – avec le public et les gouvernements – afin d’obtenir le soutien nécessaire à leurs travaux.

Cette préoccupation n’est pas nouvelle. Nous n’avons pas commencé à y réfléchir depuis l’apparition des grands modèles de langage. Le Canada est à l’avant-garde de cette question depuis des années. En 2017, des chercheurs se sont unis pour élaborer la Déclaration de Montréal pour une utilisation responsable de l’IA.

Chez MILA, par exemple, depuis près d’un an et demi, les projets de recherche impliquant des données humaines doivent passer par un comité d’éthique. Les chercheurs s’engagent à établir la confiance en s’assurant qu’ils font ce qu’il faut avec les données auxquelles ils accèdent et qu’ils utilisent de manière responsable.

Justin Mallet : Oui, le problème a toujours existé. Il ne s’agit donc peut-être pas de créer quelque chose d’entièrement nouveau, mais plutôt d’adapter ou de moderniser les réglementations et les garde-fous dont nous disposons déjà – pour un développement responsable de l’IA, ainsi que pour sa mise en œuvre et son utilisation.

---

Le Canada, chef de file de l’IA pour les soins de santé

Justin Mallet : Nous en sommes donc au mot de la fin, que je vous laisse à tous les deux. Avez-vous un dernier message ou un appel à l’action à partager aujourd’hui ?

Laurent Tillement : Un appel à l’action que je résumerais en une phrase : le Canada doit continuer à jouer un rôle de premier plan sur la scène mondiale en ce qui concerne l’IA responsable, ainsi que l’élaboration des cadres juridiques et éthiques que le monde est en train de mettre en place petit à petit. Même si le rythme est plus lent que celui de la technologie, les progrès se poursuivent.

Ici, au Canada, nous avons les capacités de le faire. Mais, bien sûr, nous avons besoin du secteur privé pour financer et déployer les outils que nous développons. Par exemple, dans le domaine de la découverte de médicaments, ces outils peuvent aider à créer de meilleurs médicaments et à faire progresser la médecine de précision, ce qui, en fin de compte, améliore les résultats pour les patients. En fin de compte, c’est ce que nous visons avec l’IA dans les soins de santé.

Ryan MacDonald : Je pense qu’il est profondément canadien que nous soyons des pionniers en matière d’IA, et pourtant nous n’en parlons presque pas assez. Même les annonces faites par nos gouvernements – bien qu’il s’agisse d’avancées fantastiques – ont tendance à se concentrer sur la préservation de notre position de leader plutôt que sur la célébration du fait que nous sommes en train de créer une nouvelle voie.

Nous avons des innovateurs et des organisations incroyables dans ce pays. Nous devons donner à ces personnes et à ces entités les moyens de mener. Qu’il s’agisse de Unity Health Toronto, de l’Hôpital général juif ou de start-ups comme Cohere et Signal 1, nous devons soutenir ceux qui, grâce à leur expertise, ouvrent la voie.

Il est essentiel de créer des systèmes en tenant compte de l’interopérabilité et de la complexité afin que, dans 20 ans, nous n’ayons plus à nous battre pour que les systèmes d’intelligence artificielle communiquent entre eux. Au lieu de cela, nous pourrons nous concentrer entièrement sur les patients – exactement ce que tout le monde veut faire.

Justin Mallet : Ce sont d’excellents appels à l’action. Ce que j’entends, c’est un appel à la mise en œuvre coordonnée, pour que les gens apprennent les uns des autres, évitent de créer des silos, et continuent d’avancer dans l’action et la mise en œuvre parce que les patients ont besoin de ces solutions maintenant.

---

Appels à l’action

1. Sur la sécurité de l’IA et la gouvernance

• La sécurité de l’IA ne se résume pas à la gouvernance et à la réglementation ; elle concerne également la culture, les techniques d’évaluation et la recherche.
• Le Canada doit continuer à jouer un rôle de premier plan sur la scène mondiale en termes d’innovation en matière d’IA et d’élaboration de cadres juridiques et éthiques pour l’IA.

2. Sur l’équité et la diversité des données

• Les systèmes de santé doivent s’assurer qu’ils collectent davantage de données et qu’ils collectent des données auprès de populations diverses afin de garantir l’équité des soins de santé.
• Les données de santé doivent être considérées comme une ressource naturelle dotée d’un énorme potentiel économique si elles sont exploitées de la bonne manière.

3. Sur le partage des données et la collaboration

• Les établissements de soins de santé doivent être plus ouverts au partage des données avec d’autres entreprises afin de garantir la possibilité d’innovation à l’échelle du secteur.
• Le gouvernement doit donner aux innovateurs canadiens les moyens de passer à l’étape suivante et de développer une IA interopérable pour les systèmes de santé.