We wrześniu 1940 roku, Grossadmiral Erich Raeder zapoznał Hitlera z powstałym w OKM projektem niemieckiej strategii śródziemnomorskiej. Jej założenia przewidywały przeniesienie punktu ciężkości działań wojennych przeciwko Wielkiej Brytanii w rejon Morza Śródziemnego. Realizacja tych planów przyniosłaby Trzeciej Rzeszy rozliczne korzyści. Opanowanie Gibraltaru, Malty oraz Kanału Sueskiego przecięłoby Anglikom ich główne połączenia z posiadłościami zamorskimi. Zarazem zabezpieczyłoby całą południową flankę państw Osi przed próbami inwazji. Stworzyłoby to również korzystne warunki wyjściowe do zdobycia roponośnych pól Iraku. Objęcie kontrolą Francuskiej Afryki Zachodniej (porty w Dakarze i Casablance) ułatwiłoby także zintensyfikowanie wojny przeciw brytyjskiej żegludze na Atlantyku.
Plan tych działań pośrednich, wymierzonych przede wszystkim w Wielką Brytanię, nie spotkał się z ostateczną aprobatą Hitlera. Führer postanowił skoncentrować wysiłek Niemiec na decydującej rozprawie z ZSRR. W jego planach rejon Morza Śródziemnego miał odgrywać rolę pomocniczą.

W 1941 roku na teatrze śródziemnomorskim zaangażowano jednak pewne siły lądowe i powietrzne. Ich zadaniem było wsparcie wojsk włoskich. Deutches Afrika Korps generała Rommla z powodzeniem walczył z Brytyjczykami w Północnej Afryce, zaś lotnictwo zaczęło skutecznie zakłócać ich morskie linie zaopatrzeniowe (m.in. atakować konwoje na Maltę). We wrześniu 1941 r. przez Gibraltar rozpoczęto przerzucanie na Morze Śródziemne okrętów podwodnych.
Szybko osiągnęły one głośne zwycięstwa w postaci zatopienia lotniskowca "Ark Royal" (14.11.41, U-81), pancernika "Barham" (25.11.41, U-331), lekkiego krążownika "Galatea" (14.12.41, U-557) i kilku mniejszych jednostek, zadając też pewne straty żegludze (30 500 BRT). Wraz z niemal równoczesnymi ciosami, wymierzonymi Royal Navy przez włoskie "żywe torpedy" (ciężkie uszkodzenie pancerników "Queen Elisabeth" i "Valiant") oraz miny (zatopienie lekkiego krążownika "Neptune"), złożyło się to na (przejściowy wprawdzie) sukces strategiczny: Brytyjczycy w końcu 1941 roku utracili panowanie na Morzu Śródziemnym.
Jednak ani wówczas, ani też w całym pierwszym półroczu 1942 roku, Hitler nie zdecydował się, (pomimo nacisków Raedera) na przeprowadzenie operacji o decydującym znaczeniu - desantu na Malcie (kryptonim "Herkules").

Z początkiem 1942 r. U-Booty zorganizowano w 29. Flotyllę z bazami w La Spezia, Salaminie i Poli, (01.04.42 - 20 jednostek, 23 pod koniec 1942, ich liczba nie przekroczyła nigdy 26). Głównym zadaniem jej okrętów było atakowanie żeglugi przybrzeżnej (zaopatrującej wojska walczące z Rommlem) i konwojów maltańskich. W trakcie tych operacji odniosły spore sukcesy w walce z jednostkami Royal Navy, zatapiając m.in. lotniskowiec "Eagle" (11.08.42, U-73) lekkie krążowniki "Naiad" (14.03.42, U-557) i "Hermione" (16.06.42, U-205).
Ponadto, podczas ewakuacji brytyjskich sił morskich z zagrożonej latem 1942 r. przez wojska "Osi" Aleksandrii, U-372 posłał na dno duży (14 650 t) okręt-bazę okrętów podwodnych "Medway".
Ogólnie jednak, wyniki zwalczania żeglugi przez U-Booty okazały się niezadowalające. Przyniosły one tylko około 90 000 BRT zatopionego tonażu, będąc przy tym dość drogo okupione (do 1 września 1942 zostało zniszczonych 13 okrętów podwodnych).
Kulminacja strat zadawanych statkom handlowym na śródziemnomorskich liniach komunikacyjnych miała miejsce w marcu 1943 r., kiedy to U-Booty zatopiły ogółem 12 statków handlowych (46 800 BRT).

Lądowanie Sprzymierzonych we Francuskiej Afryce Północnej (operacja "Torch", listopad 1942) otworzyło nowy okres w działalności U-Bootów na wodach Morza. W akcjach przeciw siłom alianckim U-Booty na Morzu śródziemnym zatopiły 6 transportowców (66 000 BRT) i 4 niszczyciele.

Główne zadanie niemieckich okrętów podwodnych polegało odtąd na zwalczaniu kolejnych alianckich inwazji, (które nastąpiły na Sycylii w lipcu 1943 r., pod Salerno we wrześniu 1943 r., pod Anzio w styczniu 1944 r., oraz w Południowej Francji w sierpniu 1944 r.). W obliczu zmasowanych działań ZOP ze strony Aliantów operacje U-Bootów przyniosły znikome efekty, (zatopiono ogółem około 30 okrętów transportowych).
Jako ostatnie istotniejsze osiągnięcia niemieckich okrętów podwodnych na Morzu Śródziemnym należy wymienić zatopienie szybkiego stawiacza min "Welshman" (01.02.43, U-617) oraz lekkiego krążownika "Penelope" (18.02.44, U-410), a także uszkodzenie lekkich krążowników "Birmingham" (11.43) i "Newfoundland" (23.07.44) przez U-407.

19 maja 1944 r. ofiarą torped U-453 padł ostatni statek aliancki zatopiony przez U-Boota na Morzu Śródziemnym. Niemieckie okręty podwodne, tracące swoje bazy w miarę wycofywania się Wehrmachtu z wybrzeży Włoch, Francji i Grecji, ostatecznie zostały co do jednego zatopione, (ostatnie podczas nalotów na Salaminę i Tulon oraz w drugim z tych portów zniszczone przez własne załogi). Od września 1941 r. zginęło ich ogółem 63.
Zatopiły 1 pancernik, 2 lotniskowce, 4 krążowniki, 16 niszczycieli i niszczycieli eskortowych, 1 fregatę, 1 kanonierkę, 1 korwetę, 3 trałowce, 5 okrętów desantowych LST i 2 trawlery ZOP, a także 137 statków handlowych o łącznym tonażu 503 000 t.

"W ciasnych wodach Morza Śródziemnego - napisał Grossadmiral Karl Dönitz - przeciwnik mógł skutecznie ochraniać wszystkie swoje linie żeglugowe przy pomocy samolotów. Ruch na liniach komunikacyjnych z Kanału Sueskiego i Aleksandrii do Tobruku oraz na Maltę odbywał się ciągle w pobliżu wybrzeży. Łatwo było wiec go chronić. Okręty podwodne na Morzu Śródziemnym od początku musiały zmierzyć się z silną obroną nieprzyjacielską. Dzięki dobrym warunkom atmosferycznym przez większą część roku morze było spokojne i gładkie. Ułatwiało to przeciwnikowi wykrywanie i zwalczanie U-Bootów, utrudniając przeprowadzenie przez nie zaskakującego ataku. Tym wyżej wiec należy oceniać dokonania niemieckich okrętów podwodnych na Morzu Śródziemnym."

Choć U-Booty stanowiły główną siłę uderzeniową Kriegsmarine na Morzu Śródziemnym, to na jego obszarze dysponowała ona również innymi jednostkami, w przeważającej mierze zdobycznymi.
Od marca 1941 r. pod niemiecką banderą pływał ex-grecki niszczyciel "Vasilefs Georgios", wcielony do Kriegsmarine pod nazwą "Hermes" (ZG3). Okręt pełnił służbę eskortową i 21 kwietnia 1943 r. zatopił brytyjski okręt podwodny "Splendid". W tydzień po tym sukcesie "Hermesa" ciężko uszkodziło lotnictwo. 7 maja 1943 r. został on wysadzony w powietrze przez własną załogę w porcie La Goulette pod Tunisem.
Ponadto po kapitulacji Włoch Niemcy przejęli znaczną część ich floty, m.in. 5 niszczycieli i około 30 torpedowców, (kilka ex-francuskich okrętów tej klasy przekazali im Włosi wcześniej). Obsadzone niemieckimi załogami, wykorzystywane były do ochrony własnej żeglugi i zwalczania okrętów podwodnych na Morzu Liguryjskim, Adriatyku i Morzu Egejskim. Część z nich brała udział w operacjach desantowych na (zajętych przez Brytyjczyków po kapitulacji Włoch) wyspach Dodekanezu (m.in. Leros, listopad 1943 r.). Do końca wojny wszystkie te okręty zostały zniszczone przez Aliantów, lub też wobec braku możliwości przebazowania albo w obliczu kapitulacji uległy samozatopieniu.
Niemcy przebazowali na Morze Śródziemne (w tajemnicy, używając śródlądowych szlaków wodnych i transportu kołowego), również dwie flotylle S-Bootów (3. i 7.). Użyto ich m.in. na wodach okalających Maltę oraz na Adriatyku i Morzu Egejskim. 3 Flotylla Ścigaczy operująca z Derny w Afryce Północnej zwalczała konwoje z Aleksandrii na Maltę, (m.in. 15 czerwca 1942 r. jej okręty storpedowały lekki krążownik "Newcastle" i niszczyciel "Hasty", który zatonął następnego dnia).
Śródlądowymi szlakami komunikacyjnymi przerzucano też na Morze Śródziemne inne małe okręty, np. barki desantowe.

W obronie żeglugi Niemcy używali licznych, niewielkich jednostek pływających, jak kutry trałowe (R-Boote) i ścigacze okrętów podwodnych (U-Bootsjagdooote). W skład śródziemnomorskich sił Kriegsmarine wchodziły także trałowce pomocnicze, barki desantowe i promy artyleryjskie, (barki o wyporności 150-250 ton, uzbrojone w silną artylerię plot). Wykorzystywano je często do transportu wojsk i zaopatrzenia, brały udział w walkach o Dodekanez.
W maju 1944 r. konwój z zaopatrzeniem dla garnizonu Krety (3 transportowce, 4 ex-włoskie torpedowce, 3 U-Bootsjagdbooty, pod słabą osłoną powietrzną) został ciężko poturbowany przez lotnictwo. 2 ciężko uszkodzone statki zostały całkowicie zniszczone już przy brzegu Krety, zatonął też 1 z torpedowców i 2 ścigacze. Jedyny ocalały z nalotu statek zatonął w drodze powrotnej, storpedowany przez okręt podwodny. Odtąd Niemcy zaniechali wysyłania zaopatrzenia w konwojach, wykorzystując do tego celu małe żaglowce i promy marynarki wojennej. Rozwiązanie to było jednak mało efektywne - nie zapewniało wojskom dostatecznej ilości zaopatrzenia, a wiązało się z ciężkimi stratami wśród wspomnianych jednostek.
Mimo wszystko, podczas podjętej w końcu ewakuacji Krety i wysp Morza Egejskiego, a następnie samej Grecji (wrzesień-październik 1944), Kriegsmarine zdołała przewieźć 37 000 żołnierzy, 2000 pojazdów i 400 dział, przy utracie 5 S-Bootów, stawiacza min, R-Boota, 3 U-Bootsjagdoootów i 29 (spośród 52 użytych) statków handlowych.
21 kwietnia 1944 r. w rejonie alianckiego przyczółka pod Anzio-Nettuno miał miejsce bojowy debiut "żywych torped" typu "Neger". Ich akcja zakończyła się fiaskiem. Praktycznie bezowocne były również podejmowane w ostatnim półroczu wojny, na Morzu Liguryjskim i Adriatyku, ataki innych "małych jednostek bojowych", ("żywych torped" typu "Biber" i motorówek wybuchowych "Linse").

Do jednej z ostatnich bitew morskich na Morzu Śródziemnym doszło w nocy z 17 na 18 marca 1945 r. Niemiecki niszczyciel TA32 oraz torpedowce TA24 i TA29, zamierzające postawić miny u wybrzeży Korsyki, zostały zaatakowane przez 2 brytyjskie niszczyciele. W starciu zatonęły obydwa niemieckie torpedowce.
Ostatnie na teatrze śródziemnomorskim potyczki z okrętami Kriegsmarine miały miejsce na Adriatyku, gdzie łupem brytyjskich ścigaczy padły torpedowiec TA 45 (13.04.45) oraz kuter trałowy R-15 (13.04.45).
2 maja 1945 r., wraz z kapitulacją wojsk niemieckich we Włoszech, działania wojenne na Morzu Śródziemnym dobiegły końca.