Die Anfänge wissenschaftlicher Arbeit am Institut liegen etwa um 1955. Prof. Bögel war auch hier der spiritus rector dank seiner Einsicht in die Notwendigkeit der Anwendung mathematischer Methoden bei der Lösung technischer und technologischer Problemstellungen sowie seiner vielfältigen persönlichen Kontakte zu Mathematikern seiner Generation, die vornehmlich in Westdeutschland lebten. Weitsichtig vorausschauend erkannte er in der sich entwickelnden Rechentechnik ein zukunftsträchtiges Anwendungsgebiet für die Mathematik. Gefördert wurde das wissenschaftliche Leben durch Gastvorlesungen bekannter Mathematiker (u. a. Lothar Collatz/Hamburg, Geza Freud/Budapest, Heinrich Grell/Berlin, Karl Maruhm/Dresden-Gießen, Egon Ulrich/Gießen, Alwin Walther/Darmstadt, Ernst Witt/Hamburg).
Mathematische Grundlagenforschung wurde mehr oder weniger sporadisch und in Eigeninitiative getrieben. Doch sowohl die erste Habilitation als auch die erste Promotion an der Hochschule Ilmenau kamen 1957 aus der Mathematik. Hinsichtlich der Forschung bemühte sich Dozent Dr. Berg, der allerdings bereits Ende 1959 an die Martin-Luther-Universität Halle berufen wurde, um den Aufbau einer kleinen Forschungsgruppe "Integraltransformationen". Nach seinem Weggang waren die Mitarbeiter hinsichtlich ihrer Forschungstätigkeit und der damit verbundenen Graduierungsmöglichkeit bis zur Einstellung von Dr. Matthes mehr oder weniger sich selbst überlassen. Dieser bestimmte sein Arbeitsgebiet "Bedienungstheorie" zum neuen und einzigen Forschungsprofil des Instituts, dem sich sämtliche Mitarbeiter anzuschließen hatten. Doch er wurde bereits 1963 an die Friedrich-Schiller-Universität Jena berufen, sodass sich die Profilierung in dieser Richtung nicht durchsetzte. Diese Diskontinuität wirkte sich dahingehend aus, dass in dieser Phase lediglich vier Promotionsverfahren in der Mathematik durchgeführt werden konnten.
Prof. Dr. habil. Horst Sachs (1927-2016) vertrat als Arbeitsgebiet die Graphentheorie, genoss international bereits Ansehen und es gelang ihm, für ein Jahr den bekannten englischen Graphentheoretiker Prof. G. A. Dirac, nach Ilmenau zu holen. Prof. Sachs baute in Ilmenau eine graphentheoretische Schule auf, die weit über die Grenzen der damaligen DDR bekannt wurde.
Ab 1965 entstand eine weitere Forschungsgruppe Optimierung unter Leitung von Prof. Karl-Heinz Elster. Diese Gruppe trug ebenfalls zum Ansehen der TH Ilmenau bei.
Die Zeit ab 1960 war weltweit von einer stürmischen Entwicklung der maschinellen Rechentechnik gekennzeichnet. In Ilmenau war im Institut für Physik der Analogrechner EARI entwickelt worden; bei Zeiß in Jena wurde der Digitalrechner ZRA1 gebaut. Das waren Anfänge der Rechentechnik in der damaligen DDR. So konnte es nur als folgerichtig erscheinen, dass an der Ilmenauer Hochschule 1963 ein Rechenzentrum gegründet wurde, aus dem bald ein selbständiges Institut für Maschinelle Rechentechnik hervorging. Mitarbeiter des mathematischen Instituts beschäftigten sich frühzeitig mit theoretischen und praktischen Problemen der Rechentechnik und bildeten dann auch leitungsmäßig und personell den Grundstock für diese neue Einrichtung. Die Forschungstätigkeit teilte sich in folgende Wissenschaftsbereiche auf:
Während dieser Zeit gelang es, besonders in der Grundlagenforschung einen international anerkannten Stand zu erreichen. Dies spiegelte sich auch in den vielen Publikationen, einigen Büchern und besonders bei der Organisation von Tagungen wider. Als Beispiele dafür seien die Durchführung der periodischen internationalen Tagungen
Graphentheorie und Anwendungen (1967 Manebach, 1977 Oberhof, 1984 Eyba, 1990 Eisenach, 1996 Elgersburg, 1997 Doernfeld, 2000 und 2000 Elgersburg
die internationalen Konferenzen Mathematische Optimierung - Theorie und Anwendungen in Eisenach (erstmalig 1970;
Optimierung - Methoden und Anwendungen, Zagan (Polen);
die Internationalen Wissenschaftlichen Kolloquien der TH Ilmenau (erstmalig 1956), an denen die Sektion alle drei Jahre teilnahm
genannt. Neben zahlreichen Fachpublikationen wurden auf dem Gebiet der Mathematik an der TH Ilmenau von ihrer Gründung an bis Ende 1989 insgesamt 89 Promotionen und 25 Habilitationen bzw. Promotionen B erfolgreich verteidigt, was u. a. auch eine Aussage über die Arbeit und die Förderung des wissenschaftlichen Nachwuchses impliziert. Schließlich sei noch erwähnt, dass sich Mitarbeiter aus mathematischen Bereichen seit den 60er Jahren intensiv an der Förderung von mathematisch begabten Schülern (Schülerzirkel für Mathematik an Erweiterten Oberschulen, Teilnahme und wissenschaftliche Beratung bei der Durchführung von Mathematik-Olympiaden und Mathematik-Sommerlagern) beteiligten und bei der Lehrer-Weiterbildung im Territorium mitarbeiteten.