add pdf media type

The new media type supports pdf and a subset of media recognized by libreoffice via
unoconv.

Every document added goes through:
* conversion to pdf with unoconv if not already a pdf
* creation of thumbnail and medium sized image, and pdfinfo generates
 some information (even for unoconv produces docs - should fix this)

Poppler (pdftocairo, pdfinfo) is used.  http://poppler.freedesktop.org/

A working but uglified pdf.js integration exists, which is enabled by
setting pdf.pdf_js=true mediagoblin_local.ini (disabled in mediagoblin.ini)

Adds one test to the test_submission test suite, and another separate test_pdf suite.
The tests are only run if media_types.pdf.processing.check_prerequisites passes, so
the test suite will not require any extra package.

TODO: make test suite say 'skipped' in that case instead of just 'ok'

Signed-off-by: Alon Levy <alon@pobox.com>

document submodule usage

Signed-off-by: Alon Levy <alon@pobox.com>

Merge branch 'master' of gitorious.org:mediagoblin/mediagoblin

Merge remote-tracking branch 'refs/remotes/tsyesika/599-allow-email-login'

Merge remote-tracking branch 'joar-github/oauth/refresh_tokens'

This merges the patch for Issue #548.

Text-align the headers on the media panel to the left to avoid confusion

Thanks to Tsyesika for pointing this out!

Adding Jessica Tallon to AUTHORS!

Comment when/author link styling changes

Why not also display the times on when these media were created

Changing translations to say "amount of time ago", basically

Previously they were just "amount of time"... I think this fits a bit better.

Merge remote-tracking branch 'refs/remotes/tsyesika/394-fuzzy-timestamp'

Allows you to use your username or email to login

Adds the fuzzy timestamp to the admin panel too

Adds the unit tests and removes useless function we don't use

adding callable_runone and callable_runall to the docs

Adds the timesince ability which fixes #394

Merge branch '637_friendlier_hooks'

Switch several functions over to using the new callable_run* tools!

Remove unhandled_okay from kwargs if it's there before passing to functions.

callable hook convenience functions.. now work, and with tests!

 - Added three "callables" test plugins.
 - updated callable_runone to check for unhandled_okay in the kwargs
   dict.

All passing!

Open Source -> Free Software from the borrowed extlib repositories

We're a GNU project, gotta get with the GNU world order ;)

Adding some help about what to do if flup flakes out on you

Fix sessions so they work across the site.

Make session cookies more secure.

1. Our session cookies only need to be available to http, so
   mark them appropiately.

2. Send the cookie to the subpath for mediagoblin.

And instantiate a session manager on the app, once.

Remove the last traces of beaker.

There were still some traces of beaker around:
- docs: replaced by reference to itsdangerous.
- paste configs: Wiped away.
- config_spec.ini: wiped.
- test_mgoblin_app.ini: also wiped.

Fix left over from variable renaming.

Merge remote-tracking branch 'brett/itsdangerous'

* brett/itsdangerous:
  Call is_updated instead of testing it boolean.
  Harden It's Dangerous key management.
  First tests for the Session class.
  Set a starting value for session.send_new_cookie.
  Remove beaker stuff from the code.
  Delete the session cookie on an empty session.
  Back sessions with It's Dangerous.
  Improve fs security for itsdangerous secret.
  Docs for get_timed_signer_url.
  Basic itsdangerous infrastructure.

Conflicts:
mediagoblin/tests/test_cache.py

tests for new pluginapi methods that can't possibly pass yet :)

Use cascade for comment deletion.

Also use the relationship for getting the comments on a
MediaEntry.

Testing: Remove some left over files/dirs.

When using tempfile.* in testing, those files get created
in the system tempdir. The docs say, we should try to
remove them.
Yes, the next reboot will clean them up also.

And in the workbench case, check after each test, that the
global workbench dir is empty (so the sub-workbcnhes have
been destroyed).

Implement queue dir delete for proc_state.delete_queue_file

Implement queue dir deleting in the
proc_state.delete_queue_file helper function.

Merge remote-tracking branch 'cwebber/254_delete_queue_directories'

* cwebber/254_delete_queue_directories:
  Removing docstring bit about delete_file possibly deleting directories in the future
  Convert media processing backends to delete the queue directory (#254)
  Implement delete_dir in the FileStorage

Conflicts:
mediagoblin/media_types/image/processing.py
mediagoblin/media_types/video/processing.py

Conflicts, because those media_types already use the newer
proc_state.delete_queue_file() method (which needs
updating.

Convenience functions for callable hooks

Teach runtests.sh the -n arg.

If you give "-n 8" to runtests, it thinks, it got
"-n" -- a nice option, ignored.
"8"  -- Oh! a single test named "8" to run, so no need to
        run all the GMG tests.

Well, that's not what we want. So runtests now knows about
-n taking an arg.

OAuth: Support refresh tokens, etc

Initially I was going to write a failing test for refresh tokens. Thus
this fix includes an orphaned 'expect_failure' method in test utils.

I ended up writing support for OAuth refresh tokens, as well as a lot of
cleanup (hopefully) in the OAuth plugin code.

**Rebase**: While waiting for this stuff to be merged, the testing
framework changed, it comes with batteries included regarding fails.
Removed legacy nosetest helper.

Also added a lot of backref=backref([...], cascade='all, delete-orphan')

Really removing nosetests things now!  all assert_whatever removed

Better docs for GenerateSlugMixin.

Use GenerateSlugMixin for collections.

Use the new way of generating slugs also for collections.
Also drop the dummy_db arg to check_collection_slug_used.

Refactor generate_slug into a mixin.

Refactor the new generate_slug into a mixin to
allow it to be used for collections also.

Merge branch '614_multi_test_config'

Switch test_app generation over to use py.test fixtures.

By doing this, we can take advantage of py.test's ability to create
temporary directories that are then cleaned up later during testing.
This helps for sandboxing things.

This also involves a ton of changes:
 - Changing the get_app stuff appropriately, getting rid of the
   setup_fresh_app decorator
 - Making said fixture
 - Switching over a billion tests to use it

Oops, forgot to assign dump_old_app to self, heh.

Turning setup_fresh_app into SetupFreshApp, a decorator with options!

This way people can pass in particular paste/mediagoblin configs that they want to use.

Updating get_app to allow for passing in particular app configs

Also require pytest-xdist!

Use py.test --boxed for unit tests from now on!

These tests need to have a MediaGoblin app setup so they can connect to the db!

Thanks to py.test --boxed for helping discover that ;)

All mediagoblin tests now pass with py.test (switched setUp to setup)

Create ProcessingState.store_public.

The ideas is by Alon Levy.

Use it in ProcessingState.copy_original for now.

Little refactoring for images: media_files.

Set the media_files directly at the relvant places.

A bit of pep8: Remove useless whitespace.

Merge remote-tracking branch 'JDShu/649_use_form_data_field'

* JDShu/649_use_form_data_field:
  Use WTForms data field in user_pages/views.py
  Use WTForms data field in auth/views.py
  auth: whitespace cleanup in views.py
  Use WTForms data field in plugins/oauth/views.py
  Use WTForms data field in submit/views.py
  Use WTForms data field in edit/views.py

Merge branch 'master' of gitorious.org:mediagoblin/mediagoblin

Warning that raven plugin is somewhat experimental!

Refactor file field checking.

When uploading, the file field needs some checks, it seems.
So refactor them into check_file_field and use around.

Use WTForms data field in user_pages/views.py

Missed case in a previous commit.

Use WTForms data field in auth/views.py

auth: whitespace cleanup in views.py

Use WTForms data field in plugins/oauth/views.py

Use WTForms data field in submit/views.py

Use WTForms data field in edit/views.py

piwigo: Fix pwg_getversion

This one needs to return just "2.5.0 (Mediagoblin)" instead
of "Piwigo 2...".

piwigo: Start at pwg.images.addSimple.

Without a session and a logged in user, this can't go much
further.

Misses check for the file upload field.
Need refactored test tool for this.

Call is_updated instead of testing it boolean.

Merge remote-tracking branch 'aeva/671_fix_stl'

Ascii stl files now should have their whitespace stripped when parsing.

Fixed a bug that had binary stls be handled by the ascii stl parser.

Harden It's Dangerous key management.

The previous code was theoretically subject to timing attacks, where
an attacker could read the key in between the time it was saved to the
file and when the chmod happened.  This version prevents that by using
umasks to ensure the files always have the right permissions.

This version also avoids using a key that cannot be saved due to some
system setup bug.

First tests for the Session class.

Set a starting value for session.send_new_cookie.

This makes session.__init__ slightly more complicated but probably
simplifies everything else, especially if we make the class smarter
later by having it track changes itself.

Remove beaker stuff from the code.

This is all obsoleted by It's Dangerous.

Delete the session cookie on an empty session.

Back sessions with It's Dangerous.

This is a contribution to #668.

Merge remote-tracking branch 'jdshu/649_use_form_data_field'

Webtest2 breaks response.cookies stuff for some reason.

I don't understand why but other people do!

This is a terrible commit message and I am sorry for it.

Use WTForms data field in user_pages/views.py

Updated VideoThumbnailerMarkII, removed old

Removed the old VideoThumbnailer since it's not used anymore.

VideoThumbnailerMarkII:
Changed the state switching in on_thumbnail_message to only set the
state to "processing thumbnail" if the seek was succesful.

I'm not sure what I'm doing here, but I know at least some of it is
good, and as a whole, it seems to work, so far :)

Adding documentation on what the $need_arg code in runtests.sh does

Move description of software stack below description of "What's where"

Improve fs security for itsdangerous secret.

Set mode 700 on the directory, mode 600 on the file.

Docs for get_timed_signer_url.

Basic itsdangerous infrastructure.

Implement the basic infrastructure for using itsdangerous
in mediagoblin. Usage instructions will follow.

piwigo start at pwg.images.addChunk.

This function receives part of an upload. Does most
parameter validation, but does not safe the data anywhere
for now.

Also fake pwg.images.exist

piwigo: Add session.getStatus, improve categories.getList

- pwg.session.getStatus returns the current user as
  "fake_user".  When we have a session, we'll return
  something better.

- pwg.categories.getList add a name and the parent id for
  its one and only "collection".

- Improve logging a bit.

piwigo: Sent a fake cookie.

shotwell needs a pwg_id cookie to continue.
And really, it's the only cookie it supports, so in the
long run, we need to send a proper session cookie as
pwg_id.

Add warning README.rst and fix pep8.

piwigo: Move tool functions into tools.py

Start at pwg.categories.getList and improve xml output.

- The xml formatting is now in the main function.
- Add PwgNamedArray to have named lists in xml output.
- Remove gmg.test method

piwigo: start xml response encoding, more (fake) methods.

Starting a piwigo api plugin.

This one just puts up the basic endpoint, some
infrastructure and a fake login method.

Lots more needed.

Improve release notes formatting.

The geolocation ini sample needed more indenting and
got a nice "code-block:: ini".

Point to the Hacking HOWTO

Better description of the structure of the application

Clarification on some original design decisions things.

A more realistic "con" explaination in the docstring of exif_fix_image_orientation

Thanks to dnet for catching this.

This commit sponsored by Chester Zeller.  Thanks!

Remove .pyc files from tarball when running maketarball.sh

Changing "evil" submission test-script to be a bash script.

Start a storage section.

With the workbench stuff in it.

Only create api docs for mediagoblin/

Now in 0.4.0 dev mode!