Родился 5 марта 1906 года в Нежине Черниговской губернии в еврейской семье. Отец — доктор медицины Владимир Яковлевич (Вульф Янкелевич) Компанеец. Семья переехала в Санкт-Петербург не позднее 1908 года и жила на Серпуховской улице, № 2, вплоть до отъезда сына за границу в 1925 году. Яков окончил гимназию. В 1925 году уехал учиться в Германию, окончил Политехническую школу в Мекленбург-Стрелице. В Берлине начал работать инженером-электриком, но был уволен из-за своего еврейского происхождения. В 1936 году был вынужден уехать во Францию.