تبدأ أغلب النقاشات حول الذكاء الاصطناعي في الرعاية الصحية من النموذج. تسأل عمّا يستطيع التنبؤ به، وبأي دقة، وبأي سرعة. وهذه نقطة انطلاق خاطئة. ففي البيئة السريرية، وفي الجينوم على وجه الخصوص، يكون النموذج أقلّ مكوّنات المنظومة حساسية. أما الجزء الحساس فهو كل ما يحيط به: بيانات مَن دُرِّب عليها، وبأي موافقة، وتحت سلطة مَن، وماذا يحدث للمريض حين يُخطئ. أخطئ في ذلك يصبح النموذج ليس أصلًا، بل عبئًا لا يعوّضه أي رقم دقة.

هذا هو المبدأ الذي تعمل منه بوست. نحن نبني ونشغّل أنظمة الذكاء الاصطناعي داخل بيئة المشغّل، بالعربية أولًا، مع توطين البيانات في السعودية. والحجة هنا ضيّقة، ونراها صحيحة: في الصحة والجينوم، الحوكمة ليست قيدًا يُوضع فوق الذكاء الاصطناعي السريري، بل هي ما يجعل الذكاء الاصطناعي السريري قابلًا للاستخدام أصلًا.

البيانات الصحية بوصفها أصلًا سياديًا

كانت البيانات الصحية حساسة دائمًا. أما البيانات الجينومية فهي صنف آخر تمامًا. فالجينوم ليس سجلّ نوبة رعاية واحدة، بل هو معرّف يدوم مدى الحياة، ومتوارَث، ومشترَك. يتحدّث عن أقارب لم يمنحوا موافقتهم قط، وعن مخاطر مستقبلية لشخص لم تظهر بعد. ولا يمكن إخفاء هويته كما يُخفى سجلّ فوترة، لأن التسلسل نفسه هو الهوية. وحين ينتقل إلى موضع لا ينبغي أن يكون فيه، فلا سبيل إلى استرجاعه.

تتعامل السعودية مع هذا الصنف من البيانات بالجدية التي يستحقها. فالبرنامج السعودي للجينوم، وهو مبادرة جينومية وطنية مرتبطة بمدينة الملك عبدالعزيز للعلوم والتقنية، يقوم إلى جانب مراكز سريرية ذات عمق حقيقي، منها مستشفى الملك فيصل التخصصي ومركز الأبحاث ومركزه للطب الجينومي. هذه قدرات سيادية. والبيانات التي تولّدها أصل سيادي، محكوم بنظام حماية البيانات الشخصية، مع إشراف وطني على الذكاء الاصطناعي والأمن السيبراني عبر سدايا والهيئة الوطنية للأمن السيبراني.

والأثر على الذكاء الاصطناعي مباشر. الأصل السيادي لا يمكن أن يُحوكَم لاحقًا كفكرة تابعة، ولا يمكن أن يغادر البيئة التي يُحفظ فيها. وأي نظام ذكاء اصطناعي يلامسه ينبغي أن يُبنى حيث تقيم البيانات، وأن يُشغَّل تحت سلطة المشغّل، وأن يظل خاضعًا للمساءلة أمام الإطار الوطني الذي يحميه. وهذا ليس تفضيلًا في النشر، بل شرطًا مسبقًا.

لا يمكن إخفاء هوية الجينوم كما يُخفى سجلّ فوترة، لأن التسلسل نفسه هو الهوية. وحين ينتقل إلى موضع لا ينبغي أن يكون فيه، فلا سبيل إلى استرجاعه.

طبقة الثقة للذكاء الاصطناعي السريري

إذا كانت البيانات أصلًا سياديًا، فإن النظام الذي يعمل عليها يحتاج إلى أكثر من نموذج. يحتاج إلى طبقة ثقة، وعلى تلك الطبقة أن توجد قبل أي أتمتة تجري فوقها. ونعني بها خمسة أمور، كلٌّ منها ملموس.

الإسناد. ينبغي لكل مُدخَل يستخدمه النظام أن يحمل نسبه: من أين أتى، وكيف تحوّل، وأي إصدار من أي مجموعة بيانات أنتج مخرَجًا بعينه. ففي نظام ذكاء اصطناعي سريري، الإجابة بلا إسناد ليست إجابة يستطيع طبيب أن يتصرّف بناءً عليها بمسؤولية. وهذا عمل عدسة «مرصد» لدينا، التي تحمل الصورة التشغيلية، ونموذج البيانات، والنسب الذي يجعل الحوكمة ممكنة.

الموافقة. الموافقة في الجينوم ليست خانة تُؤشَّر مرة واحدة عند الاستقبال، بل نطاق حيّ يحدّد فيمَ يجوز استخدام هذه البيانات، ومن قِبَل مَن، ولأي مدة. وعلى النظام أن يُنفّذ ذلك النطاق عند نقطة الاستخدام، لا أن يكتفي بتسجيله عند نقطة الجمع. والنموذج الذي لا يستطيع التحقق من الموافقة قبل أن يحسب نموذج غير قابل للحوكمة.

التدقيق. ينبغي لكل قرار ذي أثر أن يترك سجلًا يستطيع إنسان أن يقرأه ويسائله لاحقًا: ماذا رأى النظام، وبمَ أوصى، ومن تصرّف، ولماذا. والغاية من أثر التدقيق ليست إلقاء اللوم، بل القدرة على إعادة بناء القرار بعد وقوعه، وهو الفارق بين نظام تستطيع الدفاع عنه ونظام لا تملك إلا أن ترجو أنه كان صائبًا.

الإنسان في الحلقة. في الرعاية السريرية، النظام يَنصح والطبيب يقرّر. وعلى طبقة الثقة أن تجعل هذا الحد واقعيًا، بتوجيه المخرجات ذات الأثر إلى إنسان مؤهّل، وتسجيل أن الإنسان، لا الآلة، هو من حمل القرار. والأتمتة التي تعبر بهدوء إلى الحكم السريري هي بالضبط نمط الإخفاق الذي وُجدت الحوكمة لمنعه.

القابلية للعكس. الأنظمة ستُخطئ. والسؤال هو ما إذا كان المخرَج الخاطئ يمكن أن يُلتقَط، ويُحتوى، ويُلغى قبل أن يبلغ المريض في صورة ضرر. وطبقة الثقة التي لا تستطيع عكس قرار ليست آمنة عند أي مستوى من الدقة، لأن الدقة قول عن المتوسطات، والمريض ليس متوسطًا.

هذه الخمسة ليست ميزات تُضاف لاحقًا، بل هي الأساس. ابنِ النموذج أولًا ثم ألحِقها به، فتحصل على نظام يُبهر في العرض ولا يُوثَق به في الإنتاج.

الذاكرة والبرنامج الوطني للجينوم

ثمة سبب ثانٍ لأن تأتي الحوكمة أولًا، وهو يتعلق بالقيمة لا بالسلامة. فالبرنامج الوطني للجينوم مسعى طويل الأفق. عوائده لا تأتي في ربع واحد ولا من نموذج واحد، بل تتراكم، عبر السنين، في صورة ذاكرة مؤسسية: سجلّات منظّمة لما تقرّر، ولما لوحظ، ولما تبع ذلك.

وهذه الذاكرة لا تكون أصلًا إلا إذا التُقطت في صورة منظّمة ومحوكَمة ومعمّرة. فالقرار السريري الذي يُتّخَذ ويُنفَّذ ثم يُفقَد هو قرار على المؤسسة أن تتّخذه من جديد. والاكتشاف الجينومي الذي يفسّره فريق ولا يُسجَّل بصورة يستطيع فريق آخر إعادة استخدامها هو معرفة تغادر حين يغادر الفريق. وذات انضباط النسب والتدقيق الذي يجعل النظام آمنًا هو ما يتيح للبرنامج أن يتراكم، فيغدو كل عام من التشغيل أحسن استنارةً للعام التالي لا مجرد أكثر انشغالًا.

ولهذا تقيس بوست بما يبقى بعد التسليم. فعدسة «مشهد» لدينا معنيّة باستمرارية التشغيل: التسليم المنظّم للقرارات والسياق والمسوّغات، كي يحتفظ النظام، والمؤسسة من حوله، بذاكرته مع تبدّل الأشخاص والموردين والنماذج. وفي برنامج وطني سيُعمّر بعد أي فريق بعينه، ليست الاستمرارية ترَفًا، بل هي حيث تقيم القيمة المتراكمة فعلًا.

الحوكمة قبل الأتمتة

من المغري أن يُقرأ هذا كله بوصفه حذرًا، أي تلك النزعة المألوفة إلى التمهّل وإضافة الضوابط. لكن هذه القراءة تُخطئ المقصد. فالحوكمة قبل الأتمتة ليست حذرًا لذاته، بل هي الشرط الذي يجعل الذكاء الاصطناعي السريري قابلًا للاستخدام أصلًا.

النموذج بلا إسناد يُنتج إجابات لا يستطيع الطبيب التصرّف بناءً عليها. والنظام بلا موافقة منفَّذة لا يستطيع أن يلامس البيانات التي يحتاجها بصورة مشروعة. والأتمتة بلا إنسان في الحلقة ليست قابلة للنشر في الرعاية. والمخرَج الذي لا يمكن عكسه لا يمكن ائتمانه على مريض. وفي كل حالة، الحوكمة الغائبة لا تُبطئ النظام، بل تمنعه من أن يكون أداة سريرية. ابنِ طبقة الثقة أولًا فتغدو الأتمتة ممكنة. تجاوزها فلا يبقى ما يمكن أتمتته على نحو يستطيع أحد أن يستخدمه بمسؤولية.

وعليه فالطريق للصحة والجينوم في السعودية واضح، وهو عكس الترتيب المعتاد. ابدأ بطبقة الثقة: الإسناد، والموافقة، والتدقيق، والإنسان في الحلقة، والقابلية للعكس، مبنيّةً بالعربية أولًا وداخل بيئة المشغّل، تحت نظام حماية البيانات الشخصية والإشراف الوطني. والتقِط الذاكرة المؤسسية وأنت تمضي، كي يتراكم البرنامج. ثم، وحينئذ فقط، أتمتِ الأجزاء التي جعلتها طبقة الثقة آمنة وقابلة للعكس.

الحوكمة قبل الأتمتة ليست حذرًا لذاته، بل هي الشرط الذي يجعل الذكاء الاصطناعي السريري قابلًا للاستخدام أصلًا.

طبقة الثقة ليست العبء الذي تدفعه كي تؤدّي العمل الحقيقي. في الصحة، هي العمل الحقيقي. هي المنتج.