Программы для первых ЭВМ программисты писали на языках машинных команд, которые были ориентированы на конкретные машины и конкретных пользователей. Первыми «инструментами», которые экономили труд программистов, стали подпрограммы. В августе 1944 года для релейной машины Марк-I под руководством Грейс Хоппер (женщина-программист, морской офицер ВМФ США) была написана первая подпрограмма для вычисления SIN (X). В 1949 году Джон Моучли (один из создателей ЭВМ ENIAC) разработал систему Short Code, которую можно считать предшественницей языков программирования высокого уровня. Программист записывал решаемую задачу в виде математических формул, преобразовывал формулы в двухбуквенные коды. В дальнейшем специальная программа переводила эти коды в двоичный машинный код. Таким образом, Дж. Моучли разработал один из первых примитивных интерпретаторов. А в 1951 году Г. Хоппер создала первый компилятор А-0. Ею же впервые был введен этот термин.
Первые языки высокого уровня – языки процедурного программирования.
Разработчики языка программирования (под руководством Г.Хоппер) поставили цель создать такой новый язык, который позволил бы программировать на языке, близком к обычному английскому.
Необходимость таких языков, приближенных к разговорному, Г. Хоппер связывала с тем, что область применения ЭВМ будут расширяться, в связи с чем будет расти и круг пользователей. По словам Г. Хоппер, следует оставить попытки «превратить их всех в математиков». В 1959 году был разработан язык COBOL ( Common Business Oriented Language ) (Кобол) – язык программирования высокого уровня для решения задач бизнеса. Консультантом при создании языка COBOL вновь выступила Г. Хоппер. В 1954 году публикуется сообщение о создании языка FORTRAN ( FORmula TRANslation ) (Фортран). Местом рождения языка стала штаб-квартира фирмы IBM в Нью-Йорке. Одним из главных разработчиков является Джон Бэкус. Он же стал автором НФБ (нормальная форма Бэкуса), которая используется для описания синтаксиса многих языков программирования .
В тот же период в европейских странах и в СССР популярным становится язык ALGOL (algorithmic language). Как и FORTRAN, он ориентировался на математические задачи. В нем была реализована передовая для того времени технология программирования – структурное программирование.
В 60-е – 70-е годы прошлого столетия стало появляться большое количество новых языков программирования, но не все из них выдержали испытание временем. К языкам – долгожителям следует отнести язык BASIC, разработанный в Дартмутском университете в 1964 году под руководством Джона Кемени и Томаса Курца. Наибольшее распространение BASIC получил на микро-ЭВМ и персональных компьютерах.В 1991 году появилась первая версия языка VISUAL BASIC.
Для первых языков программирования характерной чертой была предметная ориентация. В эпоху ЭВМ третьего поколения большое распространение получил язык PL/1 (Program Language/1), разработанный фирмой IBM. Это был первый язык, претендовавший на универсальность, т. е. на возможность решать любые задачи: вычислительные, обработки текстов, накопления и поиска информации. PL/1 оказался слишком сложным языком. Транслятор с него недостаточно оптимальный, содержащий ряд не выявленных ошибок. По этой причине этот язык не получил распространения. Однако линия на универсализацию языков была продолжена. Старые языки были модернизированы в универсальные варианты. Примером тому стал FORTRAN 77 программирования.