Skalowalne obliczenia AI dla płyt głównych Edge Medical: od wbudowanego przetwarzania po zewnętrzną akcelerację

Diagnostyka-wspomagana sztuczną inteligencją stała się głównym wymogiem nowoczesnych systemów endoskopowych. Wykrywanie polipów, klasyfikacja różnych zmian chorobowych i identyfikacja punktów orientacyjnych anatomii nie są już pożądane-posiadania-funkcji. Jednocześnie płyty główne obsługujące takie aplikacje wizyjne są ograniczone ze względu na ograniczenia przestrzenne, termiczne i energetyczne. Chociaż moduł medycznej kamery endoskopowej może zapewnić oszałamiający obraz, może on nie wystarczyć, jeśli płyta główna nie jest w stanie przeprowadzić wnioskowania AI przy wymaganej liczbie klatek na sekundę.

Sytuacja zacznie się zmieniać w 2026 r., gdy nowe podejście do systemów wbudowanych umożliwi komputerom jednopłytkowym wykorzystanie zewnętrznych kart graficznych i akceleratorów AI. Koncepcja „wbudowanego plus zewnętrznego przyspieszenia” zrewolucjonizuje rynek projektowania płyt głównych do endoskopów, umożliwiając całkowicie nowe podejście do zarządzania cyklem życia wbudowanych komputerów.

 

Dylemat obliczeń wbudowanych

Dedykowane karty graficzne ze specjalistycznymi stosami oprogramowania są niezbędne do przyspieszenia rozwoju i iteracji sztucznej inteligencji na krawędziach. Jednocześnie takie karty zwykle wymagają do działania-przyzwoitej wielkości płyty głównej z gniazdami rozszerzeń PCIe. Im mniejszy rozmiar endoskopu, tym mniejsza szansa na umieszczenie w nim pełnowymiarowej-karty graficznej z wymaganym rozwiązaniem chłodzącym. Dylemat ten stwarza szereg ograniczeń dla producentów wyrobów medycznych. Po pierwsze, systemy muszą wykonywać różnorodne zadania, w tym przechwytywanie, przetwarzanie, analizowanie obrazów, wnioskowanie AI i wyświetlanie danych wyjściowych. Po drugie, złożoność i liczba kabli potrzebnych do połączenia wyżej wymienionych funkcji może mieć wpływ na ogólną niezawodność systemu.

 

Należy pamiętać, że nie wszystkie interfejsy wideo są sobie równe, jeśli chodzi o sprzęt medyczny. Pojawienie się specyfikacji USB4 stworzyło atrakcyjną propozycję dla projektantów komputerów wbudowanych. USB4 może jednocześnie przenosić ruch USB, DisplayPort i PCIe Gen.3 x4 za pomocą jednego kabla. W szczególności przepustowość 40 Gb/s pozwala na akcelerację zewnętrznego procesora graficznego i sztucznej inteligencji przy jednoczesnym zachowaniu niewielkich rozmiarów endoskopu medycznego.

 

Wbudowany komputer jednopłytkowy Advantech MIO-5379 jest doskonałym przykładem takiego podejścia. Dzięki wykorzystaniu modułu rozszerzeń MIOe-UMXM wbudowana płyta Advantech MIO-5379 może obsługiwać zewnętrzne karty przyspieszające GPU/AI, co byłoby niemożliwe w pełnowymiarowym komputerze stacjonarnym. Elastyczne podejście do rozbudowy jest szczególnie atrakcyjne w przypadku kompaktowych endoskopów medycznych AI ze względu na jego zdolność do zmniejszania całkowitego obszaru zajmowanego przez system.

 

Na uwagę zasługują także szczegóły techniczne. Moduł medycznej kamery endoskopowej może wysyłać sygnał wideo do wbudowanego procesora w celu wstępnego przetworzenia obrazu. Gdy strumień wideo wymaga dalszej analizy-wspomaganej sztuczną inteligencją, odpowiednie dane można przesłać do zewnętrznego akceleratora GPU/AI za pomocą jednego kabla USB4 w celu uzyskania dalszych wyników wnioskowania.

 

Obliczenia kliniczne przy użyciu jednego kabla

W warunkach klinicznych interfejsy wideo muszą służyć kilku celom jednocześnie. Przede wszystkim tryb alternatywny DisplayPort zapewnia, że ​​sygnał wideo wysyłany z komputera może być wyświetlany na monitorach zewnętrznych. Po drugie, do sterowania za pomocą ekranu dotykowego wymagana jest łączność USB. Wreszcie, najnowsze standardy USB umożliwiają przesyłanie do 100 W mocy tym samym kablem. Takie wielofunkcyjne podejście ma kluczowe znaczenie w przypadku wyrobów medycznych, szczególnie w przypadku kompaktowych endoskopów.

 

Zalety takiego standardu stają się widoczne, gdy spojrzymy na moduł rozszerzeń MIOe-TCPD firmy Advantech. Moduł wykorzystuje złącze USB typu-C do jednoczesnego przesyłania sygnałów wideo, sterowania ekranami dotykowymi i zasilania monitora. Takie podejście drastycznie upraszcza projekt systemu, jednocześnie zmniejszając ilość wymaganego okablowania.

 

Korzyści z rozwiązania polegającego na wyświetlaniu za pomocą jednego-kabla są liczne i znaczące. Po pierwsze, zmniejszają ilość sprzętu potrzebnego do ustawienia endoskopu medycznego. Po drugie, zmniejszona liczba połączeń oznacza mniej punktów awarii. Wreszcie rozwiązanie oparte na jednym-kablu często umożliwia szybszą konfigurację i serwisowanie sprzętu.

 

Zarządzanie cyklem życia i aktualizacje modelu AI

Jednym z najbardziej fascynujących aspektów modułowego podejścia do projektowania endoskopów medycznych jest możliwość aktualizacji modeli AI w razie potrzeby. Wyroby medyczne mają często długi cykl życia i niezwykle ważne jest, aby ich funkcjonalność sztucznej inteligencji nadążała za najnowszymi odkryciami. Według Narodowej Biblioteki Medycznej wzrost wykrywalności gruczolaka o 1% zmniejsza ryzyko wystąpienia interwałowego raka jelita grubego o 3%. Ta statystyka podkreśla znaczenie możliwości aktualizacji modeli sztucznej inteligencji stosowanych w sprzęcie do obrazowania medycznego.

Sam proces aktualizacji może być stosunkowo prosty, w zależności od projektu systemu. Jeśli używany jest moduł MIOe-UMXM, możliwe jest użycie różnych wersji zewnętrznych kart akceleracji GPU/AI w celu aktualizacji wydajności AI systemu. Takie podejście pozwala oddzielić obowiązki wbudowanych i zewnętrznych węzłów obliczeniowych, przy czym pierwszy zajmuje się przechwytywaniem obrazu i wstępnym przetwarzaniem, a drugi zajmuje się intensywnym wnioskowaniem o modelu AI.

Kolejną rzeczą do rozważenia jest-długoterminowa dostępność najważniejszych komponentów. Zaangażowanie firmy AdvanTech w-dziesięcioletnie wsparcie dla produktów pomaga utrzymać zaufanie producentów urządzeń medycznych, którzy mogą być pewni, że komponenty, z których korzystają dzisiaj, będą dostępne przez następne dziesięć lat.

 

Rozważania projektowe

Wybór zewnętrznego modułu akceleracji wiąże się z wieloma kompromisami. Przede wszystkim należy zrozumieć, jaka przepustowość będzie dostępna dla funkcji tunelowania PCIe. Przy szybkości 40 Gb/s złącze USB4 zapewnia wystarczającą przepustowość do przesyłania sygnału wideo, ale musi być współdzielona pomiędzy ruchem wideo i PCIe. Ilość przepustowości PCIe przydzielonej urządzeniom końcowym będzie determinować wydajność zewnętrznego akceleratora GPU/AI. Projektant musi wziąć pod uwagę to ograniczenie przy wyborze odpowiedniego sprzętu.

 

Kolejnym ważnym czynnikiem jest budżet cieplny. Chociaż zewnętrzne moduły GPU/AI zapewniają wymaganą wydajność, wytwarzają również znaczne ciepło odpadowe, które należy gdzieś rozproszyć. Ograniczenie to można złagodzić, wybierając bezwentylatorowe akceleratory klasy przemysłowej, takie jak moduł GPU MIC-78MG30 firmy Advantech.

 

Wybór platformy akceleracyjnej jest również ograniczony do opcji zapewniających interfejs MXM 3.1, takich jak seria NVIDIA Quadro i Intel Arc Embedded GPU. Inną opcją jest wykorzystanie urządzeń NPU opartych na USB-, takich jak UGen300 firmy ASUS, które zapewniają wydajność 40 TOPS przy typowym zużyciu energii 2,5 W.

 

Perspektywy na rok 2026

Trend w kierunku konstrukcji modułowej nabiera tempa, a najnowsze premiery produktów AdvanTech podkreślają to w kontekście rynku endoskopów medycznych. Niedawno zaprezentowana przemysłowa płyta główna AIMB-234 wykorzystuje platformę Intel Core Ultra Series 3, aby zapewnić do 180 TOPS wydajności AI dzięki zintegrowanemu procesorowi graficznemu Xe3 i NPU. Płyta zapewnia interfejs USB4-C do zasilania i przesyłania obrazu za pomocą jednego kabla, co jeszcze bardziej upraszcza konstrukcję endoskopu medycznego.

Moduł medycznej kamery endoskopowej może skorzystać na tym podejściu, przenosząc intensywne obliczenia związane ze sztuczną inteligencją-do zewnętrznego akceleratora GPU/AI. Płyta główna będzie wówczas działać jako centralny koncentrator do kontrolowania strumienia wideo, a jednocześnie będzie w stanie wykonywać podstawowe zadania przetwarzania.

 

Architekci systemów mogą również skorzystać z możliwości zastosowania podejścia modułowego, aby przyspieszyć rozwój swoich produktów z zakresu endoskopów medycznych. Możliwe jest wykorzystanie kombinacji wbudowanych i zewnętrznych zasobów akceleracyjnych, rezerwując najbardziej zaawansowane funkcje sztucznej inteligencji na późniejszych etapach rozwoju, po uzyskaniu zgody organów regulacyjnych. Takie podejście pomaga zmniejszyć ryzyko początkowych decyzji projektowych, jednocześnie umożliwiając stopniowe ulepszanie produktu.

 

Wniosek: rozbudowa modułowa umożliwia wbudowaną i zewnętrzną sztuczną inteligencję dla endoskopów medycznych

Projektując płyty główne do endoskopów medycznych, inżynierowie muszą dokonać kilku kluczowych-kompromisów. Po pierwsze, charakterystyka wydajności procesorów wbudowanych musi być odpowiednia do obsługi jednoczesnego przechwytywania i przetwarzania wideo, a także wnioskowania o modelu AI. Po drugie, system musi mieć możliwość wykorzystania zewnętrznych modułów przyspieszających, jeśli i kiedy zajdzie taka potrzeba. Na koniec należy zoptymalizować cały projekt systemu, aby jak najlepiej wykorzystać ograniczoną przestrzeń wewnątrz endoskopu medycznego.

 

Podejście modułowe opisane w tym artykule umożliwia spełnienie każdego z wymienionych wymagań bez znaczących kompromisów. System wbudowany musi jedynie zapewniać podstawowy poziom wydajności, po którym dodatkowy zapas wydajności może zostać zapewniony przez zewnętrzne moduły akceleracji. Takie podejście pozwala systemowi skalować wydajność AI zgodnie z potrzebami placówki medycznej.

 

W przypadku modułu medycznej kamery endoskopowej i powiązanej z nim płyty głównej opisane podejście jest również korzystne ze względu na mniejszą złożoność. Wykorzystanie zewnętrznych modułów GPU/AI zmniejsza ilość przetwarzania, które musi obsłużyć wbudowany procesor. Jednoprzewodowy-interfejs wideo pozwala zmniejszyć liczbę połączeń wymaganych do skonfigurowania systemu.

 

Opisane podejście modułowe może służyć jako doskonała podstawa dla systemów endoskopów, które w przyszłości będą musiały uwzględniać aktualizacje modeli AI. Zastosowanie interfejsu USB4 o przepustowości 40 Gbps pozwoli zmaksymalizować wydajność zewnętrznych modułów GPU/AI. Jednoprzewodowy-interfejs wideo jeszcze bardziej uprości serwisowanie i codzienną--pracę sprzętu. Wreszcie, wykorzystanie zewnętrznych modułów akceleracyjnych otwiera drzwi do ciągłego doskonalenia możliwości endoskopu medycznego przez cały jego dziesięcioletni okres użytkowania.