如果這些群體沒有被給予適當的考慮的話，這反過來也將影響到AI系統(tǒng)所構建出的預測模型。AI預測模型會被那些能用上這種AI系統(tǒng)的特權群體所上傳的健康數據所不斷的固化，從而只能有效反饋出富人的“健康狀況”，并最終構建出一個會完全排斥“邊緣人群”的健康與疾病的整體認知模型。
鑒于目前美國存在的醫(yī)保財政的亂象，這樣的憂患確實是值得人們投入更多關注，就像這樣的亂象在過去影響到醫(yī)療技術的整合一樣，它也必然會在未來影響到AI醫(yī)療系統(tǒng)的布置和效用，
基于這樣的考慮，人們在推動AI醫(yī)療系統(tǒng)不斷發(fā)展的同時，也在不斷努力地去降低AI醫(yī)療系統(tǒng)造價，而這也將促使那些利益相關者(比如政客、保險公司、健康機構、制藥企業(yè)、雇主和其他人)把他們的注碼，寄托于大規(guī)模的健康數據收集和AI系統(tǒng)的研制上，以此來幫助他們更好地維護他們在模型研發(fā)和醫(yī)保護理上的經濟利益。
然而，將這些信息技術和AI系統(tǒng)整合到醫(yī)院和其它醫(yī)療健康體系所需要的關鍵培訓、資源和那些正在進行當中的必要維護，并不總是能夠得到支持，或者說并不總是能處于“不差錢”的狀況。而這種情況其實已經導致了技術資源和技術能力的分配不均。
訓練AI所需的數據收集和病患觀察將如何影響到個人隱私?
AI系統(tǒng)對數據量的極度依賴和對病例觀察的需求也自然而然地催生出了對病人隱私、秘密和安全保護等等急迫的問題。
目前，對AI醫(yī)療系統(tǒng)高性能期許的實現(xiàn)依賴于通過各式各樣的設備、平臺和互聯(lián)網來源源不斷地獲取到海量的病患數據，而這一過程也不可避免地會涉及到某些人或機構會在利益的驅使下，做出出格的監(jiān)視行為。、
與此同時，像同態(tài)加密(Homomorphic encryption)、差分隱私(differential privacy)和隨機隱私(stochastic privacy)這樣的技術帶給了我們應對這些亂象現(xiàn)象的新的希望，它們可以讓AI系統(tǒng)實現(xiàn)在不“查閱”數據的情況下，直接地去“調用”它們。雖然就目前來說，這些新技術仍處于研發(fā)的初步階段，連一個通用應用程序都還沒有被開發(fā)出來，但它展現(xiàn)出能令人鼓舞的應用前景。
除此之外，隨著近期美國政府對循證醫(yī)學(Evidence ?based medicine)的推廣和《平價醫(yī)保法案》(Affordable Care Act)已由原先的按服務收費轉變至按治療行為收費的這一變化，監(jiān)管行為背后所涉及到的經濟利益問題和對敏感健康數據消費的問題，都在不斷地加劇惡化當中。
至于那些保險公司，在AI系統(tǒng)入局的情況下，其所需面對的對驗證交叉補貼方案合理性的呼聲的壓力也在與日俱增。
舉個例子，盡管美國政府在2008年就頒布了《基因資訊平等法》(Genetic Information Nondiscrimination Act)，但出于對保險分層管理的需求，保險公司對能獲取到遺傳危險率信息的興趣也在日益增長。事實上，差別定價目前已經成為了數據分析供應商的一項業(yè)內通用做法，而這反過來也進一步地鞏固和加劇了目前的不平等現(xiàn)象。
此外，“智能設備”和其它能讓AI系統(tǒng)獲取到所需數據的聯(lián)網傳感器也已讓追蹤和監(jiān)視變得無處不在，而這也將目前的那些隱私保護政策的覆蓋范圍不斷地拓寬，像《醫(yī)療健康可攜性和責任法案》(Health Insurance Portability and Accountability Act)就是在這一考慮下的產物。
隨著AI系統(tǒng)被越來越多地融入到健康和電子消費產品上，病人因細分數據而被重新定義，或是由代理數據來預測出他們的身份、所患疾病和其它健康信息的風險，正不斷地升高。
除此之外，那些驅動這些數據收集設備的軟件也常常是為私人所持有，而不是開源的(不受外部審查審計的約束)。雖然，美國政府最近簽署的法令對《數字千禧年著作權法案》(Digital Millennium Copyright Act)中的相關條例進行了免除，讓審查外部醫(yī)療設施的代碼成為可能，但更為重要的或許是審查那些內部醫(yī)療設施，然而這種行為并未被這一豁免權所囊括到。
總的來說，相關業(yè)內專家們都已經對在物聯(lián)網設備上，布置聯(lián)網技術所潛在的重大安全隱患做過警告了，在這些警告中，有很多就是專門針對醫(yī)療設備安全問題的。
AI將如何影響患者和醫(yī)療保險供應商?
那些已被實現(xiàn)或是有望被實現(xiàn)的AI技術，對健康護理系統(tǒng)的構建有著深遠的意義，對需要照顧的病患，或是那些虛弱體質的人也意義非凡。