Herbst était connu pour son approche fonctionnaliste et minimaliste du design, qui s'est reflétée dans son travail sur des meubles, des objets ménagers et des équipements industriels. Il était également un pionnier dans l'utilisation de matériaux modernes tels que le métal, le verre et le caoutchouc.
Au cours de sa carrière, Herbst a travaillé avec de nombreuses entreprises et a été un membre actif de plusieurs associations de design. Il a également été professeur à l'École Nationale Supérieure des Arts Décoratifs à Paris.
Parmi ses créations les plus célèbres, on peut citer la chaise Sandows (1929) et le fauteuil Multiplier (1923), qui ont tous deux été présentés dans des expositions internationales de design. Herbst est considéré comme l'un des grands noms du design moderne français et son travail continue d'inspirer les designers d'aujourd'hui.