]> arthur.barton.de Git - bup.git/blob - Makefile
Simplify bup startup process
[bup.git] / Makefile
1
2 SHELL := bash
3 .DEFAULT_GOAL := all
4
5 # See config/config.vars.in (sets bup_python, among other things)
6 include config/config.vars
7
8 pf := set -o pipefail
9
10 define isok
11   && echo " ok" || echo " no"
12 endef
13
14 # If ok, strip trailing " ok" and return the output, otherwise, error
15 define shout
16 $(if $(subst ok,,$(lastword $(1))),$(error $(2)),$(shell x="$(1)"; echo $${x%???}))
17 endef
18
19 sampledata_rev := $(shell t/configure-sampledata --revision $(isok))
20 sampledata_rev := \
21   $(call shout,$(sampledata_rev),Could not parse sampledata revision)
22
23 current_sampledata := t/sampledata/var/rev/v$(sampledata_rev)
24
25 os := $(shell ($(pf); uname | sed 's/[-_].*//') $(isok))
26 os := $(call shout,$(os),Unable to determine OS)
27
28 CFLAGS := -Wall -O2 -Werror -Wno-unknown-pragmas $(PYINCLUDE) $(CFLAGS)
29 CFLAGS := -D_FILE_OFFSET_BITS=64 $(CFLAGS)
30 SOEXT:=.so
31
32 ifeq ($(os),CYGWIN)
33   SOEXT:=.dll
34 endif
35
36 ifdef TMPDIR
37   test_tmp := $(TMPDIR)
38 else
39   test_tmp := $(CURDIR)/t/tmp
40 endif
41
42 initial_setup := $(shell ./configure-version --update $(isok))
43 initial_setup := $(call shout,$(initial_setup),Version configuration failed))
44
45 config/config.vars: configure config/configure config/configure.inc \
46   $(wildcard config/*.in)
47         MAKE="$(MAKE)" ./configure
48
49 bup_cmds := cmd/bup-python \
50   $(patsubst cmd/%-cmd.py,cmd/bup-%,$(wildcard cmd/*-cmd.py)) \
51   $(patsubst cmd/%-cmd.sh,cmd/bup-%,$(wildcard cmd/*-cmd.sh))
52
53 bup_deps := lib/bup/_checkout.py lib/bup/_helpers$(SOEXT) $(bup_cmds)
54
55 all: $(bup_deps) Documentation/all $(current_sampledata)
56
57 $(current_sampledata):
58         t/configure-sampledata --setup
59
60
61 bup_libdir="$script_home/../lib"  # bup_libdir will be adjusted during install
62
63 define install-bup-python
64   set -e; \
65   sed -e 's|.*# bup_libdir will be adjusted during install|bup_libdir="$$script_home/.."|' $1 > $2; \
66   chmod 0755 $2;
67 endef
68
69 PANDOC ?= $(shell type -p pandoc)
70
71 ifeq (,$(PANDOC))
72   $(shell echo "Warning: pandoc not found; skipping manpage generation" 1>&2)
73   man_md :=
74 else
75   man_md := $(wildcard Documentation/*.md)
76 endif
77
78 man_roff := $(patsubst %.md,%.1,$(man_md))
79 man_html := $(patsubst %.md,%.html,$(man_md))
80
81 INSTALL=install
82 PREFIX=/usr/local
83 MANDIR=$(PREFIX)/share/man
84 DOCDIR=$(PREFIX)/share/doc/bup
85 BINDIR=$(PREFIX)/bin
86 LIBDIR=$(PREFIX)/lib/bup
87
88 dest_mandir := $(DESTDIR)$(MANDIR)
89 dest_docdir := $(DESTDIR)$(DOCDIR)
90 dest_bindir := $(DESTDIR)$(BINDIR)
91 dest_libdir := $(DESTDIR)$(LIBDIR)
92
93 install: all
94         $(INSTALL) -d $(dest_bindir) \
95                 $(dest_libdir)/bup $(dest_libdir)/cmd \
96                 $(dest_libdir)/web $(dest_libdir)/web/static
97         test -z "$(man_roff)" || install -d $(dest_mandir)/man1
98         test -z "$(man_roff)" || $(INSTALL) -m 0644 $(man_roff) $(dest_mandir)/man1
99         test -z "$(man_html)" || install -d $(dest_docdir)
100         test -z "$(man_html)" || $(INSTALL) -m 0644 $(man_html) $(dest_docdir)
101         $(INSTALL) -pm 0755 cmd/bup $(dest_libdir)/cmd/
102         $(INSTALL) -pm 0755 cmd/bup-* $(dest_libdir)/cmd/
103         $(call install-bup-python,cmd/bup-python,"$(dest_libdir)/cmd/bup-python")
104         cd "$(dest_bindir)" && \
105           ln -sf "$$($(bup_python) -c 'import os; print(os.path.relpath("$(abspath $(dest_libdir))/cmd/bup"))')"
106         set -e; \
107         $(INSTALL) -pm 0644 \
108                 lib/bup/*.py \
109                 $(dest_libdir)/bup
110         $(INSTALL) -pm 0755 \
111                 lib/bup/*$(SOEXT) \
112                 $(dest_libdir)/bup
113         $(INSTALL) -pm 0644 \
114                 lib/web/static/* \
115                 $(dest_libdir)/web/static/
116         $(INSTALL) -pm 0644 \
117                 lib/web/*.html \
118                 $(dest_libdir)/web/
119
120 config/config.h: config/config.vars
121
122 lib/bup/_helpers$(SOEXT): \
123                 config/config.h \
124                 lib/bup/bupsplit.c lib/bup/_helpers.c lib/bup/csetup.py
125         @rm -f $@
126         cd lib/bup && \
127         LDFLAGS="$(LDFLAGS)" CFLAGS="$(CFLAGS)" "$(bup_python)" csetup.py build
128         # Make sure there's just the one file we expect before we copy it.
129         "$(bup_python)" -c \
130           "import glob; assert(len(glob.glob('lib/bup/build/*/_helpers*$(SOEXT)')) == 1)"
131         cp lib/bup/build/*/_helpers*$(SOEXT) "$@"
132
133 lib/bup/_checkout.py:
134         @if grep -F '$Format' lib/bup/_release.py \
135             && ! test -e lib/bup/_checkout.py; then \
136           echo "Something has gone wrong; $@ should already exist."; \
137           echo 'Check "./configure-version --update"'; \
138           false; \
139         fi
140
141 t/tmp:
142         mkdir t/tmp
143
144 runtests: runtests-python runtests-cmdline
145
146 python_tests := \
147   lib/bup/t/thashsplit.py \
148   lib/bup/t/toptions.py \
149   lib/bup/t/tshquote.py \
150   lib/bup/t/tvint.py \
151   lib/bup/t/txstat.py
152
153 ifeq "2" "$(bup_python_majver)"
154   python_tests += \
155     lib/bup/t/tbloom.py \
156     lib/bup/t/tclient.py \
157     lib/bup/t/tgit.py \
158     lib/bup/t/thelpers.py \
159     lib/bup/t/tindex.py \
160     lib/bup/t/tmetadata.py \
161     lib/bup/t/tresolve.py \
162     lib/bup/t/tvfs.py
163 endif
164
165 # The "pwd -P" here may not be appropriate in the long run, but we
166 # need it until we settle the relevant drecurse/exclusion questions:
167 # https://groups.google.com/forum/#!topic/bup-list/9ke-Mbp10Q0
168 runtests-python: all t/tmp
169         mkdir -p t/tmp/test-log
170         $(pf); cd $$(pwd -P); TMPDIR="$(test_tmp)" \
171           ./wvtest.py  $(python_tests) 2>&1 \
172             | tee -a t/tmp/test-log/$$$$.log
173
174 cmdline_tests :=
175
176 ifeq "2" "$(bup_python_majver)"
177   cmdline_tests += \
178     t/test-ftp \
179     t/test-save-restore \
180     t/test-packsizelimit \
181     t/test-prune-older \
182     t/test-web.sh \
183     t/test-rm.sh \
184     t/test-gc.sh \
185     t/test-main.sh \
186     t/test-list-idx.sh \
187     t/test-index.sh \
188     t/test-split-join.sh \
189     t/test-fuse.sh \
190     t/test-drecurse.sh \
191     t/test-cat-file.sh \
192     t/test-compression.sh \
193     t/test-fsck.sh \
194     t/test-index-clear.sh \
195     t/test-index-check-device.sh \
196     t/test-ls \
197     t/test-ls-remote \
198     t/test-tz.sh \
199     t/test-meta.sh \
200     t/test-on.sh \
201     t/test-restore-map-owner.sh \
202     t/test-restore-single-file.sh \
203     t/test-rm-between-index-and-save.sh \
204     t/test-save-with-valid-parent.sh \
205     t/test-sparse-files.sh \
206     t/test-command-without-init-fails.sh \
207     t/test-redundant-saves.sh \
208     t/test-save-creates-no-unrefs.sh \
209     t/test-save-restore-excludes.sh \
210     t/test-save-strip-graft.sh \
211     t/test-import-duplicity.sh \
212     t/test-import-rdiff-backup.sh \
213     t/test-xdev.sh \
214     t/test.sh
215 endif
216
217 tmp-target-run-test-get-%: all t/tmp
218         $(pf); cd $$(pwd -P); TMPDIR="$(test_tmp)" \
219           t/test-get $* 2>&1 | tee -a t/tmp/test-log/$$$$.log
220
221 test_get_targets :=
222
223 ifeq "2" "$(bup_python_majver)"
224   test_get_targets += \
225     tmp-target-run-test-get-replace \
226     tmp-target-run-test-get-universal \
227     tmp-target-run-test-get-ff \
228     tmp-target-run-test-get-append \
229     tmp-target-run-test-get-pick \
230     tmp-target-run-test-get-new-tag \
231     tmp-target-run-test-get-unnamed
232 endif
233
234 # For parallel runs.
235 # The "pwd -P" here may not be appropriate in the long run, but we
236 # need it until we settle the relevant drecurse/exclusion questions:
237 # https://groups.google.com/forum/#!topic/bup-list/9ke-Mbp10Q0
238 tmp-target-run-test%: all t/tmp
239         $(pf); cd $$(pwd -P); TMPDIR="$(test_tmp)" \
240           t/test$* 2>&1 | tee -a t/tmp/test-log/$$$$.log
241
242 runtests-cmdline: $(test_get_targets) $(subst t/test,tmp-target-run-test,$(cmdline_tests))
243
244 stupid:
245         PATH=/bin:/usr/bin $(MAKE) test
246
247 test: all
248         if test -e t/tmp/test-log; then rm -r t/tmp/test-log; fi
249         mkdir -p t/tmp/test-log
250         ./wvtest watch --no-counts \
251           $(MAKE) runtests 2>t/tmp/test-log/$$$$.log
252         ./wvtest report t/tmp/test-log/*.log
253
254 check: test
255
256 distcheck: all
257         ./wvtest run t/test-release-archive.sh
258
259 cmd/bup-python: cmd/python-cmd.sh config/config.vars Makefile
260         head -n -1 $< > "$@".$$PPID.tmp
261         printf "exec %q \"\$$@\"\n" "$(bup_python)" >> "$@".$$PPID.tmp
262         chmod +x "$@".$$PPID.tmp
263         mv "$@".$$PPID.tmp "$@"
264
265 long-test: export BUP_TEST_LEVEL=11
266 long-test: test
267
268 long-check: export BUP_TEST_LEVEL=11
269 long-check: check
270
271 .PHONY: check-both
272 check-both:
273         $(MAKE) clean \
274           && PYTHON=python3 BUP_ALLOW_UNEXPECTED_PYTHON_VERSION=true $(MAKE) check
275         $(MAKE) clean \
276           && PYTHON=python2 $(MAKE) check
277
278 cmd/bup-%: cmd/%-cmd.py
279         rm -f $@
280         ln -s $*-cmd.py $@
281
282 cmd/bup-%: cmd/%-cmd.sh
283         rm -f $@
284         ln -s $*-cmd.sh $@
285
286 .PHONY: Documentation/all
287 Documentation/all: $(man_roff) $(man_html)
288
289 Documentation/substvars: $(bup_deps)
290         echo "s,%BUP_VERSION%,$$(./bup version --tag),g" > $@
291         echo "s,%BUP_DATE%,$$(./bup version --date),g" >> $@
292
293 Documentation/%.1: Documentation/%.md Documentation/substvars
294         $(pf); sed -f Documentation/substvars $< \
295           | $(PANDOC) -s -r markdown -w man -o $@
296
297 Documentation/%.html: Documentation/%.md Documentation/substvars
298         $(pf); sed -f Documentation/substvars $< \
299           | $(PANDOC) -s -r markdown -w html -o $@
300
301 .PHONY: Documentation/clean
302 Documentation/clean:
303         cd Documentation && rm -f *~ .*~ *.[0-9] *.html substvars
304
305 # Note: this adds commits containing the current manpages in roff and
306 # html format to the man and html branches respectively.  The version
307 # is determined by "git describe --always".
308 .PHONY: update-doc-branches
309 update-doc-branches: Documentation/all
310         dev/update-doc-branches refs/heads/man refs/heads/html
311
312 # push the pregenerated doc files to origin/man and origin/html
313 push-docs: export-docs
314         git push origin man html
315
316 # import pregenerated doc files from origin/man and origin/html, in case you
317 # don't have pandoc but still want to be able to install the docs.
318 import-docs: Documentation/clean
319         $(pf); git archive origin/html | (cd Documentation && tar -xvf -)
320         $(pf); git archive origin/man | (cd Documentation && tar -xvf -)
321
322 clean: Documentation/clean cmd/bup-python
323         cd config && rm -f *~ .*~ \
324           ${CONFIGURE_DETRITUS} ${CONFIGURE_FILES} ${GENERATED_FILES}
325         rm -f *.o lib/*/*.o *.so lib/*/*.so *.dll lib/*/*.dll *.exe \
326                 .*~ *~ */*~ lib/*/*~ lib/*/*/*~ \
327                 *.pyc */*.pyc lib/*/*.pyc lib/*/*/*.pyc \
328                 randomgen memtest \
329                 testfs.img lib/bup/t/testfs.img
330         for x in $$(ls cmd/*-cmd.py cmd/*-cmd.sh | grep -vF python-cmd.sh | cut -b 5-); do \
331             echo "cmd/bup-$${x%-cmd.*}"; \
332         done | xargs -t rm -f
333         if test -e t/mnt; then t/cleanup-mounts-under t/mnt; fi
334         if test -e t/mnt; then rm -r t/mnt; fi
335         if test -e t/tmp; then t/cleanup-mounts-under t/tmp; fi
336         # FIXME: migrate these to t/mnt/
337         if test -e lib/bup/t/testfs; \
338           then umount lib/bup/t/testfs || true; fi
339         rm -rf *.tmp *.tmp.meta t/*.tmp lib/*/*/*.tmp build lib/bup/build lib/bup/t/testfs
340         if test -e t/tmp; then t/force-delete t/tmp; fi
341         ./configure-version --clean
342         t/configure-sampledata --clean
343         # Remove last so that cleanup tools can depend on it
344         rm -f cmd/bup-python