中國海洋大學的前身——私立青島大學創建于1924年，是國人在齊魯大地上創辦的第一所本科起點的現代大學。學校實行董事會制，膠澳商埠督辦高恩洪兼任校長，聘任國內學界名流梁啟超、蔡元培、張伯苓、黃炎培等為名譽董事。學校開宗明義，以“教授高深學術，養成碩學宏材，應國家需要”為宗旨。

1924年10月25日，私立青島大學舉辦開學典禮，并定本日為成立紀念日。

學校初創時期的學科設置為：1924年設置工科、商科；1925年增設土木工程科、鐵路管理科、采礦工程學科、機械學科、電機學科。修業期滿實驗及格者授予學士學位。

1928年，學校因北伐戰爭而停辦。戰爭結束后，南京國民政府教育部決定在原私立青島大學校址上籌建國立青島大學。1930年9月，國立青島大學正式成立，文學家、教育家楊振聲任校長。楊振聲采取“兼容并包，民主辦學”的方針，廣聘知名專家、學者來校任教，學校聲譽日隆、蜚聲學界。在學科建設上，楊振聲提出要漸次增設海邊生物學、海洋學、氣象學等與海洋有關的學科，并在生物學系重點發展海邊生物學，矢志將學校建設成為中國海洋生物研究中心。此為中國海洋大學特色學科的第一個源頭。這為后來學校海洋、水產等特色學科享譽國內外，青島發展成為世界著名的海洋科技與教育城市奠定了基礎。 

這一時期的學科設置為：1930年，文學院設置了中國文學系、外國文學系、教育學系；理學院設置數學系、物理學系、化學系、生物學系。1931年將教育學系擴充為教育學院，下轄教育行政系、鄉村教育系。

1932年9月，學校更名為國立山東大學，戲劇家、教育家趙太侔任校長，增聘名家學者，注重基礎建設，擴大院系規模，嚴格教學管理，鼓勵科學研究，鑄就了學校歷史上第一個黃金發展期。 

1937年，因抗戰爆發，國立山東大學被迫遷往四川萬縣。1938年6月停辦。停辦后，成立國立山東大學校產保管處，延續學脈。

1946年春，國立山東大學在青島復校，趙太侔復任校長。復校后，學校加強師資力量，擴大院系規模，改善教學設施，為后續發展奠定了學科和人才基礎。

這一時期，學校創立了海洋研究所、水產系和水產研究所，此為中國海洋大學特色學科的第二個源頭，開啟了中國培養高等水產人才之先河。這一時期的學科設置分階段不斷拓展。

1932-1938年，“三院八系”

文理學院——中國文學系、外國文學系、數學系、物理學系、化學系、生物學系；

工學院——土木工程學系、機械工程學系； 

農學院——研究部、推廣部。 

1946-1949年，“五院十四系”。青島醫學院并入 

文學院——中國文學系、外國文學系； 

理學院——數學系、物理系、化學系、動物學系、植物學系、地質礦物學系；

工學院——土木工程學系、機械工程學系、機電工程學系；

農學院——園藝學系、農藝學系、水產系。

1949年6月2日青島解放，國立山東大學獲得新生。1951年國立山東大學與華東大學合并，定名為山東大學，華崗任校長兼黨委書記。合校后學校規?？涨皦汛?，形成了五院十八系和兩個研究所的格局。學校逐步形成了“文史見長，加強理科，發展生物，開拓海洋”的辦學特色，成就了學校歷史上第二個黃金發展期。 

1952年全國高等院校進行院系調整，廈門大學海洋系理化組的部分師生北遷青島，與學校的海洋研究所合并，成立了海洋系。1953年9月，河北水產?？茖W校停辦，部分師生和儀器并入學校水產系，水產學科力量進一步加強，成為學校的重點發展系科。

這一時期的學科設置為：

1949年至1951年，“五院十四系” 

文學院——文史系、外國文學系；

理學院——數學系、物理系、化學系、動物學系、植物學系、地質礦物學系；

工學院——土木工程學系、機械工程學系、機電工程學系；

農學院——園藝學系、農藝學系、水產系。

醫學院不分系。

1951年至1952年，“五院十八系”

文學院——中文系、外文系、歷史系；

理學院——數學系、物理學系、化學系、動物學系、植物學系、地質礦物學系、水產學系；

工學院——土木工程學系、機械工程學系、機電工程學系；

農學院——園藝學系、農藝學系、病蟲害學系。

醫學院不分系。

兩個直屬研究所：歷史語文研究所、海洋研究所。

兩個直屬系：政治系、藝術系。

1952年至1956年，設十系、一院

中國語言文學系、外國語言文學系（1955年取消）、歷史學系、數學系、物理學系、化學系、動物學系、植物學系、水產學系、海洋學系、醫學院。

1953年，動物學系與植物學系合并為生物學系。

1956年至1959年，設九個系。醫學院獨立為青島醫學院

中國語言文學系、歷史學系、數學系、物理學系、化學系、生物學系、水產學系、海洋學系、地質學系（1958年創辦）。

1958年秋，山東大學奉命遷至濟南，所設9個系中，海洋系、水產系、地質系以及生物系的海洋生物專業、物理系和化學系的部分教研組和直屬教研組部分人員留在青島，以山東大學（青島）名義繼續辦學，并建立黨委和校務委員會，黨政工作的重點是山大原校址、以留在青島的部分為基礎，籌建一所面向海洋的大學。1959年3月，經中共中央批準，中國第一所海洋高等學府——山東海洋學院成立。曲相升擔任院長兼黨委書記。學校結束了與山東大學長達30年的共同期。

1960年10月，在《中共中央關于增加全國重點高等學校的決定》中，列出了64所全國重點高校，山東海洋學院被列為13所綜合性大學之一。由此，學校步入了在曲折中不斷開創特色發展道路的歷史新階段。

 20世紀60年代初，在國民經濟遇到極大困難的情況下，國家仍十分重視海洋科教事業，斥巨資為學校建造了我國第一艘2500噸級的海洋實習調查船——“東方紅”號。

 “東方紅”號海洋實習調查船

1962年學校接收了山東地質學院部分人員和儀器設備，至1965年，學校已發展為6個系、9個專業，為國家輸送了大批海洋、水產科技人才，提供了大量急需的海洋、水產科技成果。

這一時期的學科設置為：

1959年3月至1979年11月，共設六個系

海洋水文氣象系、水產學系、海洋物理系、海洋化學系、海洋生物學系、海洋地質地貌系（1963年更名海洋地質系）

20世紀80年代，學校著眼于國家和社會的需求，在重點保證海洋和水產學科發展的同時，大力調整學科和專業結構，促進基礎學科、人文社會學科、應用學科以及新興交叉學科發展。1988年，學校更名為青島海洋大學。1994年實現了國家教委與山東省政府共建體制，獲得重點支持，學校首批進入“211工程”序列。進入21世紀，學校在全國率先舉起建設高水平特色大學的旗幟，全力促成教育部、山東省人民政府、國家海洋局和青島市人民政府共同重點建設，學校由此躋身國家“985工程”重點建設行列。2002年10月學校獲準更名為中國海洋大學。

這一時期的學科設置為： 

1979年11月至1986年9月，共設9個系

物理海洋與海洋氣象系（1980年原海洋水文氣象系更名）、海洋物理系、海洋化學系、海洋地質系、海洋生物學系、海洋工程系、水產學系、應用數學系（1979年11月增設）、外語系（1983年9月增設）。

1986年9月至1988年3月，共設兩個學部，13個系

水產學部——水產養殖系、海洋漁業系、食品工程系；

應用數學與管理學部——應用數學系、管理科學系、計算機科學與技術系。

物理海洋與海洋氣象系、海洋物理系、海洋化學系、海洋地質系、海洋生物學系、海洋工程系、外語系。

進入21世紀，中國海洋大學確定了“重質量、求特色，先做強、再做大”的總體發展策略，堅持內涵發展、特色發展，以培養德智體美勞全面發展、具有民族精神和社會責任感、具有國際視野和合作