Спустя два года с момента выпуска 3.6 представлена новая значительная ветка системы для выполнения математических расчётов GNU Octave 3.8.0, предоставляющей интерпретируемый язык, во многом совместимый с Matlab. GNU Octave может использоваться для решения линейных задач, нелинейных и дифференциальных уравнений, вычислений с использованием комплексных чисел и матриц, визуализации данных, проведения математических экспериментов.

Ключевым новшеством GNU Octave 3.8.0 является реализация графического интерфейса пользователя, в дополнение к ранее доступной интерактивной командной строке. По умолчанию графический интерфейс будет активирован в выпуске 4.0, так как он ещё требует полировки. Для запуска GNU Octave 3.8.0 в режиме GUI следует использовать опцию "--force-gui". В новой версии также расширено число языковых конструкций, совместимых с Matlab, например, добавлена поддержка именованных исключений и вложенных функций, к совместимости с Matlab приведены регулярные выражения. Добавлено около 60 новых функций.

Для выполнения графических команд и вывода графиков по умолчанию теперь задействован OpenGL c наборов виджетов FLTK (gnuplot теперь применяется как запасной вариант, в случае отсутствия необходимых OpenGL-библиотек). В основной состав Octave включены пакеты для интеграции с языком Java. При выводе на экран с использованием виджетов FLTK обеспечена возможность использования парсера TeX (например, можно использовать префикс \bf для выделения жирным, \fontname{Arial} для выбора шрифта и т.п.).