编写 python package 中的 setup.py 文件

引言

之前我们项目组在使用 python 的过程中,经常遇到用 pip install -e . 的方式安装 python package 的情况,这些 package 中都有一个 setup.py 文件,里面指定了 package 的依赖、描述性的信息等。

但是我们从来没有为自己的 package 写过类似的 setup.py 文件。如果需要在程序中调用自己写的 package,一般是设定环境变量 PYTHONPATH 或者在 python 程序中设置 sys.path 来具体指定 package 的搜索路径。如果只是在本地调用自己的 package,路径相对固定,这种方式也没什么问题,如果要将 package 分享给别人甚至分享到 PyPI 上,这种路径设置的方式就有些简陋了。如果我们为 package 编写了 setup.py 文件,那么 package 路径的问题、依赖的问题以及描述性的信息管理就可以交给 pip (package installer for Python) 处理。 用户只需要通过 pip install -e . 的方式安装即可。

在学习编写 setup.py 文件的过程中,我们感觉这篇文章讲解的非常透彻,所以将它的内容整理总结出来,目的是方便以后自己和其他研究人员参考。

一个简单的 package 例子

如果还不太了解 module 和 package 的概念和用法,可以参考 python 官方的 tutorial

在这里我们先创建一个文件夹 setuppy_tutorial,后边所有的操作都在这个文件夹中进行。
假设在这个文件夹中有一个 package 名为 greeting_pkg,文档路径结构如下:

.
└── greeting_pkg
    ├── greeting_module.py
    └── __init__.py

其中 __init__.py 为空文件,greeting_module.py 文件内容如下:

def greeting_func(name):
    print("Hello, ", name)

也就是说,这个 greeting_pkg package 包含一个 module 文件 greeting_module.py,其中的函数 greeting_func 可以打印出输入的名字并问候。
例如,当 greeting_pkg package 处于当前目录时,进入 python 环境,调用 module 并执行其中的函数:

$ python
>>> from greeting_pkg.greeting_module import greeting_func
>>> greeting_func("De Gang")
Hello,  De Gang

如果 greeting_pkg package 没有处于当前目录,在调用 module 时就会出现如下路径错误

>>> from greeting_pkg.greeting_module import greeting_func
Traceback (most recent call last):
  File "<stdin>", line 1, in <module>
ModuleNotFoundError: No module named 'greeting_pkg'

python 搜索 module 的路径由 sys.path 决定,可以通过如下命令查看:

>>> import sys
>>> print('\n'.join(sys.path))

           <--- 这里有空字符串
/home/automan/pyenv/testsetuppy/lib/python36.zip
/home/automan/pyenv/testsetuppy/lib/python3.6
/home/automan/pyenv/testsetuppy/lib/python3.6/lib-dynload
/usr/lib/python3.6
/home/automan/pyenv/testsetuppy/lib/python3.6/site-packages

(这里用了虚拟环境,名称为 testsetuppy)
显示的路径列表中包括
1. 当前路径 (以空字符串表示)
2. PYTHONPATH 中的路径(如果没有设置环境变量 PYTHONPATH,这一项就不存在)
3. 与 python 安装位置相关的其他路径

可以在 python 程序中扩展 sys.path 中的路径,例如在另一篇介绍 SUMO TraCI 的文章中,为了调用 TraCI,我们在程序中将 TraCI 所在的路径加入到 sys.path 中:

if 'SUMO_HOME' in os.environ:
     tools = os.path.join(os.environ['SUMO_HOME'], 'tools')
     sys.path.append(tools)
else:
     sys.exit("please declare environment variable 'SUMO_HOME'")

import traci  

如果自己编写的 module 不在上述 sys.path 路径中,就会出现找不到 module 的错误。

setup.py 文件的作用之一是提供了一种通过 pip 标准化安装 package 的方式,避免了额外设置路径的麻烦。

添加一个最简洁的 setup.py 文件

在刚才的 setuppy_tutorial 文件夹中 (即与 my_greetings package 在同一目录中) 编写如下的 setup.py 文件:

from setuptools import setup, find_packages

setup(
    name='greeting_pkg',
    packages=find_packages()
)

其中,name 是在 pip 中注册的名字(如果我们将这个 package 分享到 PyPI,必须保证这个名字与 PyPI 中已有 package 注册的名字不重复),与 package 文件夹的名字可以不同,但一般只要不涉及到重名,最好用与 package 相同的名字,方便用户记忆。packages 后边跟的是这个 package 的名字以及它内部的 subpackage 的名字,这里我们只有 greeting_pkg 一个 package。

现在文档路径结构如下:

.
├── greeting_pkg
│   ├── greeting_module.py
│   └── __init__.py
└── setup.py

用如下命令安装这个 package

pip install -e .

确认一下是否安装成功:

$ pip list

Package       Version Location                 
------------- ------- -------------------------
greeting-pkg  0.0.0   /home/automan/setuppy_tutorial
pip           19.2.1  
pkg-resources 0.0.0   
setuptools    41.0.1  
wheel         0.33.4  

此时我们的 package greeting-pkg 可以像其他通过 pip 安装的 package 一样使用,不必考虑路径问题。

这里再回头说一下 pip install -e . 安装命令,其中参数 -e 表示以 editable 方式安装,这样对于原 python 文件的改动可以直接反映到安装的 package 中,不必重新安装。
例如,将 greeting_module.py 文件改成如下内容:

def greeting_func(name):
    print("Cheers, ", name)    # "Cheers" 替换了原本的 "Hello"

再调用该 module 时效果如下:

$ python
>>> from greeting_pkg.greeting_module import greeting_func
>>> greeting_func("De Gang")
Cheers,  De Gang   # 马上反映了对原 python 文件的修改

扩展 setup.py

添加 vesion

在上边 pip list 命令返回结果中 greeting_pkg 对应的版本是 0.0.0,这是默认的版本号。我们可以在 setup.py 文件中设置 version 参数,更好的反映 package 的开发进度。
修改 setup.py 内容如下:

from setuptools import setup, find_packages

setup(
    name='greeting_pkg',
    packages=find_packages(),
    version='0.1.0'
)

pip install -e . 命令重新安装,再用 pip list 命令显示如下:

$ pip list

Package       Version Location                 
------------- ------- -------------------------
greeting-pkg  0.1.0   /home/automan/setuppy_tutorial
List          1.3.0   
pip           19.2.1  
pkg-resources 0.0.0   
setuptools    41.0.1  
wheel         0.33.4  

版本号已更新。

添加 package 依赖

如果自己编写的 package A 调用了某个 package B,但是在其他用户的机子上没有安装 package B,那么在执行 package A 时会报错,找不到 module。为了避免这种问题,可以在 setup.py 文件中设置好依赖的其他 package,让别人在用 setup.py 安装时就将所有依赖的 package 一起安装了。
例如,我们将 greeting_module.py 修改为如下内容:

import pyjokes

def greeting_func(name):
    print("Hello,", name)
    print("Here is a joke for you:\n", pyjokes.get_joke())

这里调用了一个 module pyjokes,它的功能是随机产生一个 joke。这个 module 需要额外安装。可以将 setup.py 文件修改成如下形式:

from setuptools import setup, find_packages

setup(
    name='greeting_pkg',
    packages=find_packages(),
    version='0.1.0',
    install_requires=[          # 添加了依赖的 package
        'pyjokes'
    ]
)

在设置依赖 package 时可以指定版本号,例如

  • pyjokes==0.5.0
  • pyjokes>=0.3.0
  • pyjokes>=0.3.0,<0.5.0

重新用 pip install -e . 方式安装,然后在 python 中再次调用 greeting_func() 函数,效果如下:

$ python

>>> from greeting_pkg.greeting_module import greeting_func
>>> greeting_func("De Gang")
Hello, De Gang
Here is a joke for you:
 How to explain the movie Inception to a programmer? When you run a VM inside another VM, inside another VM ... everything runs real slow!

另外,还可以根据使用环境有选择的安装某些依赖 package,例如修改 setup.py 文件如下:

from setuptools import setup, find_packages

setup(
    name='greeting_pkg',
    packages=find_packages(),
    version='0.1.0',
    install_requires=[         
        'pyjokes'
    ],
    extras_require={       # 添加了可选安装的依赖 package
        'interactive': ['matplotlib>=2.2.0,<3.0.0', 'jupyter']
    }
)

其中 extras_require 部分是可以选择安装的 package。
使用 pip install -e . 命令并不会安装 extras_require 里面的 package。
如果要安装,需要用如下命令:

pip install -e .[interactive]

在命令行中执行 module 中的函数

如果我们希望 module 中的函数不仅仅只是被其他 python 程序通过 import 调用,还可以直接在命令行中执行,那么可以做如下修改:

  • 在 greeting_module.py 文件中的修改

    import pyjokes
    
    def greeting_func(name):
        print("Hello,", name)
        print("Here is a joke for you:\n", pyjokes.get_joke())
    
    def main():
        import sys
        arg = sys.argv[1]
        greeting_func(arg)
    
  • 在 setup.py 文件中的修改:

    from setuptools import setup, find_packages
    
    setup(
        name='greeting_pkg',
        packages=find_packages(),
        version='0.1.0',
        install_requires=[         
            'pyjokes'
        ],
        extras_require={
            'interactive': ['matplotlib>=2.2.0,<3.0.0', 'jupyter']
        },
        entry_points={       # 设置了在命令行中如何使用 greeting_module  中的 main 函数
            'console_scripts': [
                'greeting=greeting_pkg.greeting_module:main'
            ]
        }
    )
    

这里需要注意的是,我们的 greeting_func() 是需要送入参数的,但是在命令行中执行函数不能添加参数,只能以 sys.argv 的形式读进去,再进行后续的处理。所以当作函数使用和当作命令行中的命令使用时,"入口" 是不一样的!

做了以上修改之后,再用 pip install -e . 命令安装一下,然后测试。在命令行中输入:

$ greeting "De Gang"
Hello, De Gang
Here is a joke for you:
 3 Database Admins walked into a NoSQL bar. A little while later they walked out because they couldn’t find a table.

添加独立的 module

除了以 package 的形式存在,还可以允许不属于任何 package 的 module 存在。例如我们在 package 的外边添加两个 module,文档路径结构如下:

$ tree -L 2
.
├── greeting_pkg
│   ├── greeting_module.py
│   └── __init__.py
├── isolated_greeting_module_1.py
├── isolated_greeting_module_2.py
└── setup.py

1 directory, 5 files

其中

  • isolated_greeting_module_1.py 内容如下:
def greeting_func(name):
    print("Hi,", name, ', greetings from isolated_greeting_module_1.')
  • isolated_greeting_module_2.py 内容如下:
def greeting_func(name):
    print("Hi,", name, ', greetings from isolated_greeting_module_2.')

对应的 setup.py 中的内容如下:

from setuptools import setup, find_packages

setup(
    name='greeting_pkg',
    packages=find_packages(),
    py_modules=[     # 在 package 之外添加两个独立的 module
        'isolated_greeting_module_1',
        'isolated_greeting_module_2'
    ],
    version='0.1.0',
    install_requires=[         
        'pyjokes'
    ],
    extras_require={
        'interactive': ['matplotlib>=2.2.0,<3.0.0', 'jupyter']
    },
    entry_points={       
        'console_scripts': [
            'greeting=greeting_pkg.greeting_module:main'
        ]
    }
)

pip install -e . 安装之后,可以像普通的 module 一样调用,例如:

$ python

>>> from isolated_greeting_module_1 import greeting_func
>>> greeting_func("De Gang")
Hi, De Gang , greetings from isolated_greeting_module_1.

添加描述性的条目

如果编写 setup.py 文件的目的是希望将整个 package 分享给其他研究人员或者分享到 PyPI 上,那么还要添加一些描述性的信息,以便别人更好的理解这个 package。常见的描述如下:

from setuptools import setup, find_packages

setup(
   ...
   # metadata to display on PyPI
    author="Me",
    author_email="me@example.com",
    description="This is an Example Package",
    keywords="hello world example examples",
    url="http://example.com/HelloWorld/",   # project home page, if any
    project_urls={
        "Documentation": "https://docs.example.com/HelloWorld/",
        "Source Code": "https://code.example.com/HelloWorld/",
    },
    classifiers=[
        'License :: OSI Approved :: Python Software Foundation License'
    ]
)

以上是基本的 setup.py 编写方法。还有其他更多的条目以及对 setup.py 更深入的介绍可以在这里查阅。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 206,482评论 6 481
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 88,377评论 2 382
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 152,762评论 0 342
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 55,273评论 1 279
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 64,289评论 5 373
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,046评论 1 285
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,351评论 3 400
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,988评论 0 259
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 43,476评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,948评论 2 324
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,064评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,712评论 4 323
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,261评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,264评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,486评论 1 262
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,511评论 2 354
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,802评论 2 345

推荐阅读更多精彩内容