fix fft gateway 75/15175/7
Sylvain GENIN [Fri, 5 Sep 2014 14:36:35 +0000 (16:36 +0200)]
assert_checkequal(fft([1,0;2,0;0,0;0,0],-1,4,1),[3,0;1-2*%i,0;-1,0;1+2*%i,0])
assert_checkequal(convol2d([3;4],[1;2]),[3;10;8]);
assert_checkequal(convol2d([3;4;1],[1;2]),[3;10;9;2])

Change-Id: Ie2f198defc56039d6c753f245abac250a6ca92ed

scilab/modules/signal_processing/sci_gateway/cpp/sci_fft.cpp

index ceb777e..a348c41 100644 (file)
@@ -119,7 +119,7 @@ types::Function::ReturnValue sci_fft(types::typed_list &in, int _iRetCount, type
     pOut->setComplex(true);
 
     //alloc workspace required by dfft2
-    iWS = 8 * maxfactor(iSize) + 24;
+    iWS = 8 * maxfactor(iDimLength == 0 ? iSize : iDimLength) + 24;
     piWS = (int*)MALLOC(iWS * sizeof(int));
     if (piWS == NULL)
     {