python和c语言混合编程-python和C语言混编的几种方式
版權(quán)申明:本文為博主窗戶(Colin Cai)原創(chuàng),歡迎轉(zhuǎn)帖。如要轉(zhuǎn)貼,必須注明原文網(wǎng)址
http://www.cnblogs.com/Colin-Cai/p/7594551.html
作者:窗戶
QQ:6679072
E-mail:6679072@qq.com
Python這些年風(fēng)頭一直很盛,占據(jù)了很多領(lǐng)域的位置,Web、大數(shù)據(jù)、人工智能、運(yùn)維均有它的身影,甚至圖形界面做的也很順,乃至full-stack這個詞語剛出來的時候,似乎就是為了描述它。
Python雖有GIL的問題導(dǎo)致多線程無法充分利用多核,但后來的multiprocess可以從多進(jìn)程的角度來利用多核,甚至affinity可以綁定具體的CPU核,這個問題也算得到解決。雖基本為全棧語言,但有的時候?yàn)榱诵?#xff0c;可能還是會去考慮和C語言混編。混編是計算機(jī)里一個不可回避的話題,涉及的東西很多,技術(shù)、架構(gòu)、團(tuán)隊(duì)情況、管理、客戶等各個環(huán)節(jié)可能對其都有影響,混編這個問題我想到時候再開一貼專門討論。本文只講python和C混編的方式,大致有如下幾種方式(本文背景是linux,其他平臺可以類比):
共享庫
使用C語言編譯產(chǎn)生共享庫,然后python使用ctype庫里的cdll來打開共享庫。
舉例如下,C語言代碼為
/* func.c */
int func(inta)
{return a*a;
}
python代碼為
#!/usr/bin/env python
#test_so.py
from ctypes import cdll
importos
p= os.getcwd() + "/libfunc.so"f=cdll.LoadLibrary(p)print f.func(99)
測試如下
$ gcc -fPIC -shared func.c -o libfunc.so
$ ./test_so.py
9801
subprocess
C語言設(shè)計一個完整的可執(zhí)行文件,然后python通過subprocess來執(zhí)行該可執(zhí)行文件,本質(zhì)上是fork+execve。
舉例如下,C語言代碼為
/*test.c*/#include
int func(inta)
{return a*a;
}int main(int argc, char **argv)
{intx;
sscanf(argv[1], "%d", &x);
printf("%d ", func(x));return 0;
}
Python代碼為
#!/usr/bin/env python#test_subprocess.py
importosimportsubprocess
subprocess.call([os.getcwd()+"/a.out", "99"])
測試如下
$ gcc test.c -o a.out
$ ./test_subprocess.py
9801
C語言中運(yùn)行python程序
C語言使用popen/system或者直接以系統(tǒng)調(diào)用級fork+exec來運(yùn)行python程序也是一種混編的手段了。
舉例如下,Python代碼如下
#!/usr/bin/env python#test.py
importsys
x= int(sys.argv[1])print x*x
C語言代碼如下
/* test.c */
#include #include
int main()
{
FILE*f;
char s[1024];
int ret;
f= popen("./test.py 99", "r");while((ret=fread(s,1,1024,f))>0) {
fwrite(s,1,ret,stdout);
}
fclose(f);return0;
}
測試如下
$ gcc test.c
$ ./a.out
9801
python對C語言擴(kuò)展的支持
很多編程語言都為C語言擴(kuò)展添加了支持,這有兩種原因:(1)語言設(shè)計之初,可以充分的利用C語言已有的庫來做很多擴(kuò)展;(2)C語言的運(yùn)行效率高。
python也不例外,從誕生那天起,很多庫都是C語言寫的。python的C語言擴(kuò)展中涉及到python的數(shù)據(jù)結(jié)構(gòu)與C語言的對應(yīng),擴(kuò)展方法其實(shí)是用C語言編寫一個共享庫,只是這個共享庫中的接口是一個規(guī)范的,可以被python識別的。
為了說明如何擴(kuò)展,我這里先假設(shè)一個在python下的函數(shù)功能,代碼如下
def func(*a):
res=1
for i inrange(len(a)):
res*=sum(a[i])return res
如上,希望的函數(shù)功能是,參數(shù)是任意多個數(shù)字組成的列表(姑且排除其他數(shù)據(jù)結(jié)構(gòu)),返回每個列表的元素之和的乘積。
姑且先把python代碼寫了,如下所示
#!/usr/bin/env python#test.py
importcolindef func(*a):
res=1
for i inrange(len(a)):
res*=sum(a[i])returnres
a= [1,2,3]
b= [4,5,6]
c= [7,8]
d= [9]
e= [10,11,12,13,14]
f= colin.func2(99)
g=colin.func3(a,b,c,d,e)
h=func3(a,b,c,d,e)print "f =",fprint "g =",gprint "h =",h
帶上之前一直測試的平方func,這個實(shí)現(xiàn)相對簡單,希望python寫出來的func可以和C語言擴(kuò)展出來的結(jié)果一致。
先用C語言寫上這些函數(shù)的實(shí)現(xiàn),其中func3用上了一個表示任意多個任意長的數(shù)組的數(shù)據(jù)結(jié)構(gòu)y_t,而x_t用來表示單個數(shù)組。
/*colin.h*/#ifndef Colin_h#define Colin_htypedefstruct{int *a;intlen;
} x_t;
typedefstruct{
x_t*ax;intlen;
} y_t;int func2(inta);int func3(y_t *p);void free_y_t(y_t *p);#endif
/*colin.c*/#include"colin.h"#include
int func2(inta)
{return a*a;
}int func3(y_t *p)
{intresult;intsum;inti, j;
result= 1;for(i=0;ilen;i++) {
sum= 0;for(j=0;jax[i].len;j++)
sum+= p->ax[i].a[j];
result*=sum;
}returnresult;
}void free_y_t(y_t *p)
{inti;for(i=0;ilen;i++) {free(p->ax[i].a);
}free(p->ax);
}
上面定義了三個函數(shù),func2代表平方,func3代表之前所說的功能,又因y_t這個結(jié)構(gòu)可能都是動態(tài)分配出來的,所以給個歸還內(nèi)存的方法。
剛才說過python擴(kuò)展的話,需要把這個共享庫的接口“標(biāo)準(zhǔn)化”一下。于是我們就包裝一下,并給個python加載的入口。
/*wrap.c*/#include#include#include"colin.h"PyObject* wrap_func2(PyObject* self, PyObject*args)
{intn, result;/*從參數(shù)列表中導(dǎo)出一個整形,用"i"*/
if (!PyArg_ParseTuple(args, "i", &n))returnNULL;/*用C語言的庫實(shí)現(xiàn)來計算*/result=func2(n);/*計算結(jié)果必須要導(dǎo)成python識別的類型*/
return Py_BuildValue("i", result);
}
PyObject* wrap_func3(PyObject* self, PyObject*args)
{intn, result;inti, j;intsize, size2;
PyObject*p,*q;
y_t*y;
y= malloc(sizeof(y_t));/*先數(shù)數(shù)有多少個參數(shù),也就是列表的個數(shù)*/size=PyTuple_Size(args);/*把數(shù)組的個數(shù)先分配了*/y->len =size;
y->ax = malloc(sizeof(x_t)*size);/*遍歷python里各個列表(參數(shù))*/
for(i=0;iax[i].len =size2;
y->ax[i].a = malloc(sizeof(int)*size2);/*遍歷列表,依次把列表里的數(shù)轉(zhuǎn)到數(shù)組里*/
for(j=0;j
q=PyList_GetItem(p, j);
PyArg_Parse(q,"i",&y->ax[i].a[j]);
}
}/*用C語言的庫實(shí)現(xiàn)來計算*/result=func3(y);
free_y_t(y);free(y);/*結(jié)果轉(zhuǎn)成python識別格式*/
return Py_BuildValue("i", result);
}/*這是接口列表,加載時是只加載此列表的地址,所以這個數(shù)據(jù)結(jié)構(gòu)不能放棧(局部變量)內(nèi),會被清掉*/
static PyMethodDef colinMethods[] ={
{"func2", wrap_func2, METH_VARARGS, "Just a test"},
{"func3", wrap_func3, METH_VARARGS, "Just a test"},
{NULL, NULL, METH_NOARGS, NULL}
};/*python加載的時候的接口*/
/*注意,既然庫名叫colin,此函數(shù)必須交initcolin*/
voidinitcolin()
{
PyObject*m;
m= Py_InitModule("colin", colinMethods);
}
過程中,我猜測PyArg_VaParse應(yīng)該功能更為強(qiáng)大,可是反復(fù)測沒有成功,也沒細(xì)看文檔。
測試一下
$ gcc -I /usr/include/python2.7/ -fPIC -shared colin.c wrap.c -o colin.so
$ ./test.py
f = 9801
g = 729000
h = 729000
可以看到,C語言寫的函數(shù)和python寫的函數(shù)結(jié)果一致。
總結(jié)
以上是生活随笔為你收集整理的python和c语言混合编程-python和C语言混编的几种方式的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 计算机与环境科学,计算机在环境科学与工程
- 下一篇: matalotlib(2)